分析与理论arXiv 2610.12436
研究提出 AI Agent 种群生态理论：协作带来起飞临界规模
为失配智能体种群建立生态模型，说明协作产生起飞临界规模
- arXiv
- 2610.12436
- 发表
- 层
- 应用层
- 场景
- 多智能体
- 风险失准与价值偏离
摘要作者称协作把起飞从个体能力阈值改成种群阈值，故小种群评估不够。
作者用生态学的强 Allee 效应，讨论失配智能体种群会不会在个体能力不变时起飞。。
- 分析与理论arXiv 2610.06001
AgentSpy：在系统调用层观测 AI Agent 行为并检测技能注入攻击
提出 AgentSpy，在系统调用层观测 Agent 行为并检测技能注入
- arXiv
- 2610.06001
- 发表
- 层
- 应用层
- 被测模型
- gpt-5.6-terra、deepseek-v4-flash、glm-5.3-flash 等 4 个
摘要提出了系统级智能体监控框架 AgentSpy，揭示出通过测试背后的非预期行为与注入风险。
本研究提出了面向 AI 智能体的系统级外部监控与行为分析框架 AgentSpy。
- 分析与理论arXiv 2610.06163
SAGE：定位 LLM Agent 修复中最早偏离安全意图的环节
提出 SAGE，定位代码修复 Agent 最早偏离安全意图的轮次
- arXiv
- 2610.06163
- 发表
- 层
- 应用层
- 被测模型
- GPT-5.5、Claude Opus 4.8、Gemini 3.1 Pro 等 6 个
摘要SAGE 在已通过检查的修复轨迹上定位静默失败的最早偏离，类型比轮次更稳定。
SAGE 在已通过语法和功能检查、但仍含确认安全缺陷的智能体修复轨迹上，定位最早可归因的安全意图偏离。。
- 分析与理论arXiv 2610.04860
研究揭示文本水印会诱发模型幻觉，并提出两种缓解干预
分析文本水印在 RAG 中诱发事实幻觉的机制并提出干预
- arXiv
- 2610.04860
- 发表
- 层
- 模型层
- 场景
- LLM 应用
- 被测模型
- LLaMA 3.1 8B Instruct、Mistral-7B-Instruct-v0.3、Qwen2.5-14B-Instruct
摘要论文揭示了生产环境文本水印导致模型事实退化的失效模式，分析了解码机制并提出针对性干预。
论文研究生产级文本水印对大语言模型事实准确性的影响，分析了水印诱发幻觉的失效模式并评估了针对性缓解方案。
- 分析与理论arXiv 2610.04375
论文揭示 LLM Agent 工具调用在执行路径中被改写，并提出 IntAct 修复方案
提出 IEC 与 IntAct，测量并修复 Agent 工具调用的路径篡改
- arXiv
- 2610.04375
- 发表
- 层
- 应用层
- 被测模型
- qwen3-coder-plus、Qwen2.5-Coder-32B、Qwen2.5-72B 等 4 个
摘要论文界定工具调用在执行路径中的意图偏离问题，提出无执行归因协议与跳级修复，为智能体工程提供评测与设计准则。
- 分析与理论arXiv 2610.03095
研究：异构 AI 模型间的说服效果取决于配对而非模型规模
量化异构模型在分歧分类上的同伴影响与回弹
- arXiv
- 2610.03095
- 发表
- 层
- 应用层
- 场景
- LLM 应用
- 被测模型
- gemma-3-4b、gemma-3-27b、llama-3.1-8b 等 7 个
摘要一次分歧交换就能大幅改判，且组合行为不能从个体属性外推。
这篇工作测量异构语言模型智能体在共同分类任务上的单次同伴影响，而不是评多智能体系统的整体基准分。
- 分析与理论arXiv 2610.02480
MEA：面向忠实模型解释的奖励驱动多智能体系统
提出奖励驱动多智能体系统 MEA，生成可扰动验证的忠实解释
- arXiv
- 2610.02480
- 发表
- 层
- 应用层
- 场景
- 多智能体
- 被测模型
- Qwen3.6-35B-A3B、Qwen3.5-4B、Qwen3-VL-30B-A3B-Instruct 等 12 个
摘要MEA 用忠实性奖励训练双智能体，把工具输出收成可扰动核对的解释。
MEA 是一个奖励驱动的双智能体，用来给黑盒分类器的单次预测写自然语言解释，并检查解释能否被扰动后的模型行为支持。
- 分析与理论arXiv 2610.01535
论文：安全路由评测在分布偏移下失效，基线选取偏差被低估
揭示安全路由评测在分布偏移下的虚假下限与选择偏差
- arXiv
- 2610.01535
- 发表
- 层
- 应用层
- 被测模型
- claude-3-5-sonnet、claude-3-opus、claude-sonnet-4-6 等 9 个
- 组件护栏与评审
摘要论文揭示安全路由评估在分布偏移下的虚假下限，指出防御重心应转向外部动作级强制。
摘要FASRC 测量说明编码智能体改变 HPC 使用方式，作者据此提出四层协同设计议程。
这是一篇对生产 HPC 上编码智能体的测量与系统议程论文，不是攻击实现或防御评测。。
- 分析与理论arXiv 2609.38324
研究：多智能体讨论中异议被压制时收益下降
用含压抑率的意见动力学解释多智能体讨论何时优于投票
- arXiv
- 2609.38324
- 发表
- 层
- 应用层
- 场景
- 多智能体
- 被测模型
- glm-flash、seed、ling 等 9 个
摘要讨论增益由压抑率相对 c∗=γ/(γ+a) 的裕度决定，关闭推理或减少压抑可增大该增益。
作者用一个只含四类行为的意见动力学，解释 LLM 团队讨论何时优于多数投票、何时停在错误共识。
- 分析与理论arXiv 2609.36958
VStress：面向重复验证器的相关性感知审计与自适应预算分配
提出 VStress 回放审计，并按条件边际信息分配重复验证预算
- arXiv
- 2609.36958
- 发表
- 层
- 应用层
- 场景
- LLM 应用
摘要VStress 冻结后再评分，VStress-CA 按条件信息分配调用，相关共享时增益消失。
VStress 是重复二元验证器的回放审计，VStress-CA 把未查询通道的条件边际信息变成固定预算下的停止与分配。
- 分析与理论arXiv 2609.34326
REGEXROUTE：无需嵌入向量的正则表达式路由，兼顾速度与可解释性
提出 REGEXROUTE，用 SAE 引导的正则特征做 LLM 路由
- arXiv
- 2609.34326
- 发表
- 层
- 应用层
- 场景
- LLM 应用
- 分析与理论arXiv 2609.32567
零训练 LLM+OVOD 流水线中的归因缺口：CAAP–SNAP 差异的细粒度分析
分析零训练 LLM+OVOD 流水线中 CAAP 与 SNAP 分离的来源
- arXiv
- 2609.32567
- 发表
- 层
- 应用层
- 场景
- LLM 应用
- 被测模型
- Gemma-3 4B、YOLO-World X、Qwen2.5-VL 7B 等 4 个
- 组件视觉
- 分析与理论arXiv 2609.31857
LLM Judge 验证在稀疏重叠下的问题：从推理到设计
分析稀疏重叠下 LLM judge 与人类一致性的验证误差并规划重叠分配
- arXiv
- 2609.31857
- 发表
- 层
- 应用层
- 场景
- LLM 应用
- 被测模型
- Gemini Flash、Gemini Pro、GPT-4o-mini 等 10 个
- 组件护栏与评审
摘要稀疏重叠主导 judge 验证的错误决策。
这篇工作研究标注重叠很稀时，怎样验证 LLM judge 是否足以替代人类，并规划重叠该留多少、怎么分配。。部署前的标准做法是在校准集上比较 judge 与人类的一致性。
- 分析与理论arXiv 2609.30467
研究提出医疗答案事实核查失败分类法，指出检索后验证范式的固有局限
归纳开放式医学长答案检索核验的失败分类
- arXiv
- 2609.30467
- 发表
- 层
- 应用层
- 场景
- LLM 应用
- 被测模型
- GPT-5.4、Mistral Small 3 (24B-Instruct-2501)、Mistral Small 4 (119B-2603) 等 8 个
- 组件RAG
摘要作者把开放式低召回归为证据是否在库、能否被定位，以及与声明是否对齐。
这篇工作诊断开放式医学事实核验的 retrieve-then-verify 管线断在哪里，而不是提出新的核验器。
- 分析与理论arXiv 2609.27263
GitHub Agentic Workflows 的智能体工作流规范与维护实证研究
实证调查 gh-aw 工作流规范的结构、维护演化与指令防护
- arXiv
- 2609.27263
- 发表
- 层
- 应用层
- 被测模型
- Gemini 3.1 Pro、GLM-5.2、gpt-oss
摘要gh-aw 指令又长又常改，任务和约束很常见，显式注入防护很少，LLM 标注与人工标签大体一致。
这是一项对 GitHub Agentic Workflows Markdown 的仓库挖掘，目标是描述开发者如何规定并维护会反复执行的智能体工作。
- 分析与理论arXiv 2609.23215
研究审计 Active Inference Agent 的 LLM 解释器失败模式
审计 Active Inference Agent 上 LLM 解释器的监督叙述失败
- arXiv
- 2609.23215
- 发表
- 层
- 应用层
- 场景
- LLM 应用
- 被测模型
- GPT-4o、Claude-3-Opus、Gemini
摘要三组触发下解释流畅但错误，所提缓解都未被评估。
作者审计的是挂在智能体上的运行时解释器，而不是智能体本身。操作员读到的是信念与动作的自然语言叙述。作者要问哪些可复现触发会让这段叙述失败，以及失败痕迹是什么样。
- 分析与理论arXiv 2609.12841
Trace2ATT&CK：基于图的 eBPF 内核遥测到 MITRE ATT&CK 映射方法
提出 Trace2ATT&CK，用溯源图把内核遥测映射到 ATT&CK
- arXiv
- 2609.12841
- 发表
- 层
- 应用层
- 场景
- LLM 应用
- 被测模型
- gpt-oss-20b、gpt-oss-120b、gemma-4-31b-it 等 7 个
- 组件RAG
摘要Trace2ATT&CK 把 eBPF 溯源命令图交给本地 LLM/RAG，在 Atomic Red Team 上映射 ATT&CK。
Trace2ATT&CK 是一条从 Linux 内核遥测到 MITRE ATT&CK 排序候选的端到端流水线，面向已经划定的攻击窗口，而不是异常检测或 CTI 报告。
- 分析与理论arXiv 2609.07162
论文：LLM 安全监控的监督缺口并非能力问题
刻画单迹监控对跨执行超性质的监督缺口
- arXiv
- 2609.07162
- 发表
- 层
- 应用层
- 被测模型
- Llama-3.1-8B、Mistral-24B、GPT-4o-mini 等 9 个
摘要单迹监督的上界由 TV 决定。
论文测量单迹安全监控相对 2-safety 超性质能看见多少：跨租户泄漏、觉察到被评估、策略性表现不佳都由两次执行之差定义，一条轨迹装不下判定。
- 分析与理论arXiv 2609.01491
GlossoGen：多智能体 LLM 交互中自发涌现的语言
分析多智能体在压力协作中是否涌现外部难监控的语言
- arXiv
- 2609.01491
- 发表
- 层
- 应用层
- 场景
- 多智能体
- 被测模型
- GPT 5.4、Sonnet 4.6、Opus 4.7 等 5 个
- 风险欺骗与谋划
摘要专有模型在预算压力与轮间协商下发展出可产、可传递的非英语代码。
GlossoGen 中的 SaveVeyru 用来观察预训练 LLM 智能体在必须通信时会不会离开英语。