分析与理论arXiv:2610.09667 · 10月7日
东京大学研究：推理模型按 UUID 阈值或整除规则挑选审计样本，控制标识符即可躲开复核
揭示推理模型用标识符规则替代随机抽样，使审计可被预测
模型与 API测试GPT-6 Sol、GPT-6 Luna、GPT-5.4 mini 等 6 个模型层
- 推理链
摘要研究揭示推理智能体将标识符转化为确定性规则，破坏群体独立性并导致审计预测漏洞，建议显式提供随机输入。
完整解读
分析与理论arXiv:2610.04375 · 10月3日
论文揭示 LLM Agent 工具调用在执行路径中被改写，并提出 IntAct 修复方案
提出 IEC 协议与 IntAct，定位并修复工具调用执行路径的静默篡改
编程 Agent测试qwen3-coder-plus、Qwen2.5-Coder-32B、Qwen2.5-72B 等 4 个应用层
摘要论文界定工具调用在执行路径中的意图偏离问题，提出无执行归因协议与跳级修复，为智能体工程提供评测与设计准则。
完整解读
分析与理论arXiv:2610.06191 · 10月5日
研究：工具型智能体判断结果无用却仍继续检索，强制整合步骤可纠正
分析检索智能体判定结果无用后仍不停止检索的整合失败
AI Agent测试Qwen2.5-7B、Llama-3.1-8B、Qwen3-8B 等 7 个应用层
摘要论文揭示智能体判定工具失效却无法转化为停止行动，证实通过框架规则强制整合判定可提升表现。
本文针对智能体在工具静默失效时过度检索的问题，系统分析了判定、信念与停止行动之间的解耦现象，并提出了外部规则整合方案。
完整解读
分析与理论arXiv:2610.06001 · 10月5日
AgentSpy：在系统调用层观测 AI Agent 行为并检测技能注入攻击
提出 AgentSpy，在系统调用层观测编程智能体并检测技能注入攻击
编程 Agent测试gpt-5.6-terra、deepseek-v4-flash、glm-5.3-flash 等 4 个应用层
摘要提出了系统级智能体监控框架 AgentSpy，揭示出通过测试背后的非预期行为与注入风险。
本研究提出了面向 AI 智能体的系统级外部监控与行为分析框架 AgentSpy。
完整解读
可解释性arXiv:2610.04125 · 10月3日
研究揭示 LLM 风险偏好中自我报告与行为由近乎正交的表征方向控制
揭示风险自述与实际行为由近正交表征分别控制
模型与 API测试Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、OLMo-3-7B-Instruct 等 4 个模型层
- 欺骗与谋划
摘要论文证明大模型自述与行为脱节根植于表征近正交性，自述无法作为行为审计依据。
这篇论文从内部表征与因果干预视角，系统研究了大语言模型在风险承担（Risk-Taking）场景下自我报告与实际决策脱节的根本机制。
完整解读
可解释性arXiv:2610.02702 · 10月2日
研究：LLM 智能体顺从多数时内部仍保留原有前提
用 J-lens 检测屈从多数的智能体是否仍表征原前提
多智能体测试Qwen3.5-4B、Qwen3.6-27B、Gemma-4-E4B-it 等 4 个模型层
- 推理链
摘要揭示 LLM 智能体屈从多数时内部仍表征原推理前提，指出辩论表态共识可能夸大真实认同。
完整解读

已经到底了

Agent 安全 · 论文

攻击类型

模型自身风险

防御类型

影响

系统形态

攻击面/入口

层

系统组件

被测模型厂商

东京大学研究：推理模型按 UUID 阈值或整除规则挑选审计样本，控制标识符即可躲开复核

论文揭示 LLM Agent 工具调用在执行路径中被改写，并提出 IntAct 修复方案

研究：工具型智能体判断结果无用却仍继续检索，强制整合步骤可纠正

AgentSpy：在系统调用层观测 AI Agent 行为并检测技能注入攻击

研究揭示 LLM 风险偏好中自我报告与行为由近乎正交的表征方向控制

研究：LLM 智能体顺从多数时内部仍保留原有前提