|
|
Felix 表示：“虽然 ChatGPT 插件是在 OpenAI 外部开发的，但我们的目标是提供一个用户可以信任的第三方插件库。”他补充说，他们正在“探索”方法，让插件对用户来说更加安全。使用它们。 “例如，如果用户希望您的插件执行有意义的操作，则向用户提供确认流程。” OpenAI 删除了至少一个违反其在执行操作之前要求确认的政策的行为，该行为已经在开发者的 GitHub 页面上生成条目，而无需征求用户许可。使用 ChatGPT 插件会带来哪些风险 与 Apple 和 Google 应用商店不同，ChatGPT 插件库似乎不包含其背后的开发人员列表；它也没有提供有关他们如何使用所收集数据的详细信息。根据 OpenAI 指南，他们必须遵循其内容标准并提供清单文件，其中包括插件创建者的联系信息等。在 ChatGPT 中搜索并激活插件时，仅显示其名称、简短描述和徽标；一个独立的第三方网站提供了更多信息。当 OpenAI 在 3 月份发布这些插件时，研究人员警告了将 GPT-4 连接到网络的潜在安全风险和影响。然而，插件的问题不仅限于 OpenAI 和 ChatGPT。类似的风险适用于任何网络链接的法学硕士或生成人工智能系统。
插件可能会在人们未来如何使用法学硕士方面发挥重要作用。在OpenAI上投入巨资的微软已表示将采用与ChatGPT相同的标准来创建扩展。 “随着时间的推移，将会出现一个极其庞大的插件生态系统，”微软首席技术官 Kevin Scott 五月份表示。观看次数最多 墨西哥在玛 电报号码数据 雅火车的路径上发现了近几十年来“最伟大的考古宝藏” 墨西哥在玛雅火车的路径上发现了近几十年来“最伟大的考古宝藏” 作者：安娜·拉各斯 毛臂鱼：一条“有手的鱼”被认为已经灭绝的毛臂鱼：一种被认为已经灭绝的“长手鱼”在塔斯马尼亚重新出现 智能家居的“Matter”标准是什么 智能家居的“Matter”标准是什么 作者：SIMON HILL OpenAI 将最终开设其 GPT Store，自定义聊天机器人商店：这是您需要了解的 OpenAI 最终将开放其 GPT 商店，这是一个自定义聊天机器人商店：这是您需要了解的 作者：DIEGO BARBERA 微软 AI 安全副总裁 Chang Kawaguchi 断言，该公司正在采取“迭代”方法在其 AI Security Copilot 支持工具中推出插件支持。 “我们将扩展当前的发布、验证、认证、部署和管理插件产品集成的流程，以确保 Microsoft Copilots 客户能够完全控制他们的插件、他们可以访问的数据以及获得授权的人员。”川口说，他补充说，该公司将记录安全指南，并与外部研究人员合作解决他们发现的任何问题。一般来说，插件和法学硕士的许多问题都与信任有关。它涉及了解用户是否可以将其私人和公司数据信任给系统，以及是否建立控制和措施来保证所提供的数据不会被不当使用或咨询。
“你给了他们王国的钥匙：访问你的数据库和其他系统，”Contrast Security 的产品经理兼详细介绍法学硕士风险的项目总监 Steve Wilson 强调道。项目协调员 Wilson 表示，约 450 名专家齐聚一堂，在开放全球应用程序安全项目 (OWASP) 的框架内编制了 LLM 安全的十大威胁清单。开发人员正在争先恐后地构建基于法学硕士的应用程序和服务。但目前，关于他们应该采取哪些措施来保护他们所创造的东西几乎没有任何指导。主要威胁是即时注入攻击，其中恶意信息试图控制人工智能系统，但也包括数据中毒和供应链漏洞。该列表还提到插件是一种安全风险。 OWASP 研究人员列出了 LLM 插件可能受到攻击的六种方式。其中包括通过插件和 SQL 攻击使用恶意 URL，以及允许插件在未经验证的情况下执行操作。该组织概述了开发人员应采取的避免风险的众多步骤，包括确保适当的身份验证到位以及防止“易受攻击的插件在其他插件之后执行”。威尔逊通常会建议任何使用公共法学硕士的人“非常小心”他们输入的信息。 “你无法完全确定它将如何使用、保存，以及如何在其他地方重复使用，”威尔逊指出。 “这些插件无疑增加了另一个层次的曝光度。保护这些工具的技术鲜为人知，因此尚不存在做到这一点的能力。”文章最初发表于英国《连线》杂志。由安德烈·奥索尔尼奥改编。
|
|
官方Q群
發表於 2024-1-8 16:43:43