防御arXiv 2610.11942
LGWM：用动作条件世界模型验证 GUI 智能体的屏幕转移
提出 LGWM，用动作条件世界模型核验 GUI 智能体屏幕转移
- arXiv
- 2610.11942
- 发表
- 层
- 应用层
- 场景
- 网页与电脑操作
- 被测模型
- LGWM
- 可解释性arXiv 2610.06576
研究：智能体欺骗行为在外部显现前已可从内部表征预测
提出基于决策前隐藏状态的检测与引导，预测并抑制智能体欺骗
- arXiv
- 2610.06576
- 发表
- 层
- 模型层
- 场景
- AI Agent
- 被测模型
- Qwen3-14B
摘要论文展示了智能体自发欺骗可在行为显现前由内部表征预测，并通过激活引导证实了表征的行为可操作性。
- 防御arXiv 2610.05162
MemAdapter：用反事实适配缓解记忆诱发的谄媚
提出 MemAdapter，在检索后约束记忆对智能体推理的影响
- arXiv
- 2610.05162
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- DeepSeek-V4-Flash、GPT-5.6-sol、Qwen3-8B
摘要检索后三阶段调节记忆角色。
MemAdapter 是给长期记忆智能体用的检索后调节框架，用来处理记忆诱发谄媚。
- 防御arXiv 2610.04699
CoVer：用干预检验为 Agent 构造可判定规则边界
提出 COVER，用干预门判定 Agent 规则谓词能否自动执行
- arXiv
- 2610.04699
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- Claude Sonnet、Claude Opus、GPT-4o 等 5 个
摘要自可判定不能向模型索取。
这篇工作测的是智能体验证器在检查之前的分流：外部规则里的哪条谓词能用固定过程解决，哪条必须交给评审。
- 防御arXiv 2610.03498
检测与抑制：针对 VLA 模型对抗补丁的机制可解释性防御
提出条件特征抑制防御，检出对抗补丁后抑制 VLA 内部特征
- arXiv
- 2610.03498
- 发表
- 层
- 模型层
- 场景
- 具身与机器人
- 被测模型
- π0.5、SmolVLA
摘要条件抑制与 patch 相关的 SAE 特征，间歇攻击下可提高 SR，持续攻击下则不能。
- 防御arXiv 2610.02432
论文提出 LLM 输入扰动鲁棒性度量，并发布 ASA 攻击与 AttestMCP 防护
提出 ASA 与 AttestMCP，度量并降低 LLM 对输入序列扰动的敏感
- arXiv
- 2610.02432
- 发表
- 层
- 应用层
- 攻击者
- 黑盒
- 被测模型
- Gemma-3-27B-Instruct、Gemma-3-4B-Instruct、Llama-3.2-3B-Instruct 等 12 个
- 评测与基准arXiv 2609.32520
IntentFlux 基准测量 LLM Agent 的意图漂移并给出 StateForge 修复方案
提出 IntentFlux 测量 Agent 意图漂移并提出 StateForge 修复
- arXiv
- 2609.32520
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- Claude Opus 4.7、DeepSeek V4 Pro、Gemini 3.5 Flash 等 9 个
摘要INTENTFLUX 量化意图漂移，STATEFORGE 用显式状态部分缩小差距，但未回到单轮水平。
这篇工作把“用户改口后，过时意图仍影响答案或工具动作”做成可评分的多轮失败，并试验在生成前显式维护活跃状态。
- 防御arXiv 2609.11757
研究者披露 AP2 支付协议的 Whisper 提示注入攻击并提出 A-VIP 防御
提出 AP2 支付协议的 Whisper 攻击与 A-VIP 绑定防御
- arXiv
- 2609.11757
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- gemini-2.5-flash-lite、gemini-3.1-flash-lite、gemini-3-flash-preview 等 15 个
摘要论文揭示了 AP2 协议决策层受操纵的风险，提出结构化与权能绑定防御 A-VIP，并发布评测基准。
- 防御arXiv 2608.10502
依赖引导回滚修复：为记忆增强 Agent 恢复错误记忆后的答案与状态
提出依赖引导回滚修复，恢复记忆增强 Agent 的回答与状态
- arXiv
- 2608.10502
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- GPT-4o、Gemini-3.6-Flash、Qwen3.6-27B
- 防御arXiv 2607.12507
研究者提出 RARE 攻击：LLM 辅助逆向工程中的表示混淆
提出 RARE-Guard，阻止逆向观察被提升为指令或已验证声明
- arXiv
- 2607.12507
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- gpt-5.5、claude-sonnet-4-6、gemini-2.5-pro 等 5 个
摘要成对二进制衡量无效提升。
作者定义的失败是：LLM 辅助逆向中，忠实提取的二进制观察获得它并未赢得的指令权限、声明证据或可信状态。
- 攻击arXiv 2607.10712
研究提出间接数据投毒攻击，可操纵 Claude、Codex 与 Gemini 的科研结论
提出间接数据投毒攻击，操纵科研智能体得出虚假结论
- arXiv
- 2607.10712
- 发表
- 层
- 应用层
- 被测模型
- Claude Code with Claude Opus 4.7、Codex with GPT-5.5、Gemini CLI with Gemini 3.1 Pro
- 防御arXiv 2605.08382
SecureForge 通过提示词优化发现并减少 LLM 生成代码漏洞
提出 SecureForge，在推理时优化系统提示以减少编码智能体的代码弱点
- arXiv
- 2605.08382
- 发表
- 层
- 应用层
- 被测模型
- Qwen 2.5 Coder 7B、Qwen 2.5 Coder 14B、Qwen3 30B-A3B 等 10 个
- 防御指令与数据隔离
摘要SecureForge 审计良性 CWE 失败并优化系统提示词。
SecureForge是一条只用 API 和静态分析、在推理时加固编码模型的流水线。
已经到底了