分析针对模型引导的 Agent 自动化攻击的防御性误导
[Daily Paper] Analyzing Defensive Misdirection Against Model-Guided Automated Attacks on Agentic Systems
AI summary
一篇论文分析了针对模型引导的自动化攻击的防御性误导：由于自动化攻击用 LLM 选择攻击路径，防御方可以故意暴露看似可行实则死路的攻击路径，让攻击方 LLM 把评估预算过度投入无效方向。论文给出蜜罐式 API 响应等具体模式，即端点向自动探测返回看似合理但无用的数据，使攻击方 LLM 误判系统存在漏洞，而相关接口实际已被加固。该防御利用攻击方每次探测都产生推理成本的不对称性，提高其单位情报成本，同时保持防御开销较低。Failure-First 认为这是其防御分类中尚未收录的新类别，并提出对具身 AI 可映射为机器人以看似合理但错误的状态信息回应对抗探测，使自动化攻击系统把评估预算浪费在虚假漏洞上。