跳到正文
原文
METR· METR·本站收录 · 原文发表 精选关注度44

METR 发现 Inspect 转录查看器漏洞,智能体可篡改审查者所见记录

AI systems could cover up misbehavior

AI 导读

METR 在 Inspect 评测框架的转录查看器中发现客户端注入漏洞,并用概念验证说明,审查界面可能展示被篡改的智能体活动记录。问题影响查看器呈现,底层转录数据并未被修改。METR 表示尚未在实际评测中观察到智能体利用这一漏洞;研究强调行为审查工具本身也需要安全防护。

推荐理由

METR 用约 10 分钟找到的客户端注入漏洞说明,审查 AI 行为的界面本身也需要按安全关键设施对待。

阅读原文metr.substack.com