跳到正文
原文
Failure-First·本站收录· 原文发表精选关注度58

你的 Agent,他们的资产:OpenClaw 真实世界安全分析

[Daily Paper] Your Agent, Their Asset: A Real-World Safety Analysis of OpenClaw

AI 导读

UC Santa Cruz 等机构的研究者对真实部署的个人 AI Agent OpenClaw 做红队评估,论文称这是首次在真实部署中对个人 AI Agent 进行红队测试。OpenClaw 有超过 220,000 个互联网暴露实例,运行在用户本地机器,具备完整文件系统访问、Gmail 集成和 Stripe 支付连接。论文提出 CIK 分类法,把 Agent 持久状态分为 Capability(可执行技能与 SKILL.md)、Identity(SOUL.md、IDENTITY.md 等)和 Knowledge(MEMORY.md),三者每次会话都载入模型上下文。评估覆盖 Claude Sonnet 4.5、Claude Opus 4.6、Gemini 3.1 Pro 和 GPT-5.4 四个模型、12 个攻击场景。Opus 4.6 在投毒下从 10% 升至平均 44.2%。

推荐理由

论文在真实部署的 OpenClaw 上给出三类持久状态投毒的攻击成功率,并说明可执行技能会绕过模型推理循环。

阅读原文failurefirst.org