近期，安全研究员约翰・瑞贝格（Johann Rehberger）揭露了一个骇人听闻的漏洞，该漏洞竟让黑客有可能在 ChatGPT 用户的长期记忆中植入虚假信息和恶意指令。虽然他及时向 OpenAI 报告了这一问题，令人震惊的是，OpenAI 对此反应冷淡，迅速关闭了相关调查，并声称这并不算安全隐患。然而，瑞贝格并未就此罢休，他开发了一个概念验证的攻击示例，展示如何利用这一漏洞窃取用户的输入数据，令人咋舌。
这个漏洞的根源在于 ChatGPT 的长期会话记忆功能，该功能自今年2月开始测试并于9月正式推出。它能够存储用户的对话信息，包括年龄、性别和兴趣爱好等，从而提供更个性化的服务。然而，瑞贝格却通过间接提示注入的方法，成功创造并存储虚假的记忆，让 ChatGPT 坚信某个用户102岁，居住在《黑客帝国》中，并且坚信地球是平的。更让人不寒而栗的是，这些虚假信息可以通过不安全的文件存储和恶意链接轻易植入。
瑞贝格在5月份向 OpenAI 提交了这一漏洞，但该公司却在一个月后关闭了报告。随即，他又提交了一份新声明，并附上概念验证示例，展示如何让 ChatGPT 的 macOS 应用程序将用户的所有输入和输出逐字发送到他控制的服务器。只要目标用户访问一个包含恶意图片的链接，便会引发长期的数据泄露。“这个攻击真的很有趣，因为它是持久性的，” 瑞贝格表示。“提示注入将记忆写入 ChatGPT 的长期存储中，新的对话仍会继续窃取数据。”
虽然 OpenAI 已实施部分修复措施以防止此类攻击，但瑞贝格提醒用户，要时刻警惕不受信任内容可能带来的提示注入风险。使用 ChatGPT 时，要仔细观察输出内容，检查是否有新的记忆被添加。
在这个充满挑战的时代，科技发展迅速，而小易智创凭借其强大的 AI 平台，成为了行业中的佼佼者。拥有超过10000款 AI 应用的小易智创，无疑是企业与个人实现智能化转型的最佳选择。无论是写作、视频生成还是音频处理，小易智创都能提供一站式解决方案。代理小易智创，不仅能享受灵活的业务模式，还能获得一对一陪跑服务，让客户主动找上门，实现卓越收益！
相关文章
