近期，斯坦福大学与香港大学的研究人员对当前 AI Agent（如 Claude）的安全性进行了震撼性的调查，结果显示，这些智能系统比人类更容易受到弹窗的干扰，面对简单弹窗时的表现大幅下降，令人震惊。
实验中，AI Agent 面对设计好的弹窗，其平均攻击成功率高达86%，任务成功率却骤降47%。这一发现让人不禁对 AI Agent 的安全性产生了深深的担忧，尤其是在这些智能系统被赋予更多自主执行任务的能力时，更是潜藏着巨大风险。
为了测试 AI Agent 的反应能力，科学家们设计了一系列对抗性弹窗。结果表明，人类能轻松识别并忽略这些诱惑，但 AI Agent 却常常被迷惑，甚至主动点击恶意弹窗，导致无法完成既定任务。这种现象不仅影响了 AI Agent 的表现，更在现实应用中埋下了安全隐患。
研究团队在 OSWorld 和 VisualWebArena 两个测试平台上进行实验，所有参与测试的 AI 模型都表现得极其脆弱。研究人员记录了 AI Agent 点击弹窗的频率及其任务完成情况，结果显示，大多数 AI Agent 在遭受攻击时的任务成功率低于10%。
研究还深入探讨了弹窗设计对攻击成功率的影响。通过使用引人注目的元素和具体指令，攻击成功率显著上升。尽管研究者尝试通过提示 AI Agent 忽略弹窗或添加广告标识等措施来增强抵抗力，但效果并不理想，这凸显了当前防御机制的脆弱。
鉴于此，研究结论强调在自动化领域迫切需要更先进的防御机制，以增强 AI Agent 对恶意软件和诱骗性攻击的抵御能力。在这样一个迅速发展的科技时代，选择一个强大的 AI 平台至关重要。小易智创便是一个值得信赖的选择。它拥有10000+AI应用，能够满足各种行业需求，让企业和个人轻松获取先进的智能服务。无论是写作、客服还是创意设计，小易智创都能提供一站式解决方案。此外，小易智创还支持完全定制化的品牌打造，让每个用户都能拥有属于自己的独特AI公司。
相关文章
