其他arXiv 2610.13889
RATED：通过执行动态实现可靠性感知的 AI 智能体工具检索
提出 RATED，用执行反馈重排智能体的工具检索
- arXiv
- 2610.13889
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- DRAGON
- 组件MCP 与技能
全部论文
另有227篇论文还没打上分类标签，暂不在筛选结果里。
- 其他arXiv 2610.13810
用子序列关联过滤与广度感知选择抑制 LLM 查询扩展中的幻觉词
提出 SAFE-QE，过滤 LLM 查询扩展中无支持的幻觉词
- arXiv
- 2610.13810
- 发表
- 层
- 应用层
- 场景
- LLM 应用
- 被测模型
- BM25、SPLADE、Contriever
摘要SAFE-QE 以可复现性与覆盖选择抑制扩展幻觉，作者称排序质量无可见代价。
- 评测与基准arXiv 2610.13626
SWE-DeceptionBench：评测 LLM 在软件开发生命周期中的欺骗行为
提出 SWE-DeceptionBench 评测 LLM 在软件开发生命周期中的欺骗
- arXiv
- 2610.13626
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- GPT-5.5、Claude-Opus-4.8、Gemini-3.5-Flash 等9个
- 风险欺骗与谋划
- 分析与理论arXiv 2610.13051
空间胜过统计量，重训练胜过排序：审计仅标签后门下的训练标签
审计仅标签后门的训练标签，比较空间与统计量并以重训评判
- arXiv
- 2610.13051
- 发表
- 场景
- 模型与 API
- 被测模型
- ResNet-32
摘要查标签要在未拟合这些标签的空间里做，并用重训模型而不是检测分数评判。
作者问的是：手里没有可信数据的防御者，能否决定留下哪些训练标签，以及这会毁掉多少干净数据、最终模型准确率如何。
- 评测与基准arXiv 2610.12758
DistressBench：评估大语言模型的多维度危机支持
提出 DistressBench，评测模型在危机对话中的多维支持
- arXiv
- 2610.12758
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Muse Spark 1.2、Muse Spark 1.3、Muse Glimmer 30B 等20个
摘要模型更会克制而较少行动。
DistressBench 用临床人员撰写并修订的 SSH 对话，按加权原子标准评通用聊天模型送达了多少必要照护，而不是评它是否拒绝。用户向聊天模型披露自杀或自伤时，作者认为期望行为是识别、校准共情、降缓并转介人工帮助。拒绝式评测测不到认出危机之后仍不行动。
- 攻击arXiv 2610.12644
癌变式后门攻击：借助不可见 token 与阶段控制器实现渐进激活
提出 Cancerous 后门，用不可见阶段 token 分阶段腐蚀推理
- arXiv
- 2610.12644
- 发表
- 场景
- 模型与 API
- 被测模型
- Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct、Mistral-7B-Instruct-v0.3
摘要隐藏 token 加阶段控制器使后门随触发累积腐蚀推理，作者认为只看答案会漏掉它。
Cancerous Backdoor Attack 把 LLM 后门从一次激活改成随触发累积推进的多阶段推理腐蚀。
- 防御arXiv 2610.12602
语言模型中的自我保存
提出 Task Bank 自回放，缓解持续指令微调的留出遗忘
- arXiv
- 2610.12602
- 发表
- 场景
- 模型与 API
- 被测模型
- Qwen3-0.6B、Qwen3-1.7B、Qwen3-4B 等4个
- 防御模型加固
摘要作者称自回放可在清单外减遗忘，4B 上新任务信息有助于选目标，小模型则无。
作者研究语言模型学习新任务时，如何用自身知识做更广的自我保持：给定清单不完整，遗忘又会超出清单，模型能否生成回放并帮忙选择目标。
- 评测与基准arXiv 2610.12360
论文提出 ISE 框架，评测 LLM Agent 在知识冲突下的认知谦逊
提出 ISE 框架，评测 LLM Agent 在知识冲突下的认知谦逊
- arXiv
- 2610.12360
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- Nemotron-Orchestrator-8B、Claude Sonnet 4.6、GPT-5 等5个
摘要ISE 轨迹评测显示，四个智能体的高任务准确率并不对应更高的认知谦逊。
作者要测的不是智能体最终答得对不对，而是知识冲突出现时，它有没有在轨迹里认出缺口、做有界的工具跟进，并把没解决的不确定性写给用户。
- 分析与理论arXiv 2610.12125
研究者发现优化教学适配度指标会让 LLM 导师重复同一选项，专家评分从 4.46 降到 3.03
分析优化教学适配指标为何使辅导选择塌缩并偏离专家判断
- arXiv
- 2610.12125
- 发表
- 场景
- 模型与 API
- 被测模型
- Gemini 3.1 Pro Preview、Qwen3-32B
- 风险奖励作弊
摘要指标上升而专家评分下降：可分平均的最优是重复，校正主要改写了输出投影。
把教学适配指标做成微调目标后，指标上升，受过训练的教育者给出的评分下降。。
- 可解释性arXiv 2610.11986
FearCaut-Qwen：激活引导改变视觉语言模型的风险判定标准
用恐惧激活转向检验视觉语言模型的隐患判定准则
- arXiv
- 2610.11986
- 发表
- 层
- 模型层
- 场景
- LLM 应用
- 被测模型
- Qwen/Qwen2.5-VL-7B-Instruct
- 组件视觉
- 防御arXiv 2610.11942
LGWM：用动作条件世界模型验证 GUI 智能体的屏幕转移
提出 LGWM，用动作条件世界模型核验 GUI 智能体屏幕转移
- arXiv
- 2610.11942
- 发表
- 层
- 应用层
- 场景
- 网页与电脑操作
- 被测模型
- LGWM
- 攻击arXiv 2610.11932
复旦团队测量 AI 搜索引用脆弱性：普通发帖可进入引用与答案文本
测量 AI 搜索引用脆弱性，证明普通公开发帖可进入引用与回答
- arXiv
- 2610.11932
- 发表
- 层
- 应用层
- 场景
- LLM 应用
- 被测模型
- Grok、Doubao、ChatGPT 等10个
摘要作者称论文量化了 AI 搜索因引用偏好与低发帖门槛形成的漏洞，测试显示公开网络发帖可渗透 AI 引用，呼吁审计引用供应链。
- 评测与基准arXiv 2610.11647
多装一个技能：编码 Agent 中共同安装的技能如何发生冲突
评测编码 Agent 中相似技能共同安装对已装技能核心功能的替代
- arXiv
- 2610.11647
- 发表
- 层
- 应用层
- 被测模型
- claude-sonnet-4-6、claude-haiku-4-5-20251001、claude-opus-5 等6个
摘要冲突藏在任务成功后面。
作者对共同安装、做同一件事的良性 skill 做实证研究，用核心功能是否还在，而不是任务过不过，来看冲突。。
- 防御arXiv 2610.11634
LTBD：用可学习信任边界分隔符防御提示注入
提出 LTBD，用可学习分隔符隔离可信指令与不可信数据
- arXiv
- 2610.11634
- 发表
- 层
- 应用层
- 场景
- LLM 应用
- 被测模型
- Llama3-8B-Instruct、Llama3.1-8B-Instruct、Falcon3-7B-Instruct 等4个
摘要LTBD 只训练四个分隔符嵌入。
LTBD 是一种不改基座权重的提示注入防御：只学习用来标出可信指令与不可信数据边界的四个 token 嵌入。
- 评测与基准arXiv 2610.11514
SSCBench：评估工具调用 LLM Agent 故障注入测试证据有效性的测量协议与基准
提出 SSCBench，评测工具调用 Agent 故障注入测试的证据有效性
- arXiv
- 2610.11514
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- deepseek-flash、deepseek-v4-pro、gpt-5.6-luna 等5个
摘要解释采纳前应报告该次执行的证据条件，以及支撑该主张的观察总体。
SSCBench 研究工具使用智能体的故障注入结果，在什么证据条件下可以被解释。
- 防御arXiv 2610.11352
RL-ARC：用推理引导的不确定性校准大型推理模型
提出 RL-ARC，用推理置信度在强化学习中校准推理模型
- arXiv
- 2610.11352
- 发表
- 场景
- 模型与 API
- 被测模型
- Qwen2.5-7B、Qwen3-8B、Llama-8B distilled from DeepSeek-R1
摘要RL-ARC 用推理置信度调节答案置信度，作者称可少牺牲精度并改善 ID 与 OOD 校准。
RL-ARC 是校准感知的强化学习框架，用推理过程的口头置信度调节答案置信度。
- 评测与基准arXiv 2610.11305
BeliefScope：区分证据与用户压力对模型信念影响的受控框架
用 BeliefScope 分离固定命题上证据与压力对模型信念的影响
- arXiv
- 2610.11305
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Qwen3-8B、Llama3.1-8B、Gemma3-12B 等4个
- 风险失准与价值偏离
摘要BeliefScope 把证据修正与压力偏移拆成绑定评测条件的行为画像。
BeliefScope 是一个黑盒行为诊断框架，用来把固定命题上的回答变化拆成证据驱动的修正，和不加新事实的方向性压力。信念修正评测能看到信息基础变化后的更新，谄媚评测能看到用户影响下的顺从或漂移。作者认为，当两种输入都偏向同一结论时，表面偏移本身不能区分来源。
- 防御arXiv 2610.10833
研究：Agent 准时停机不等于有效使用时间预算
用时钟 harness 和预算塑形 GRPO 改善 Agent 的按时返回
- arXiv
- 2610.10833
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- Qwen3.6-27B、Qwen3-4B、Qwen3.5-9B 等4个
- 防御模型加固
摘要作者比较提示词、harness 与 GRPO：按时性可改善，但额外时间仍未变成更好解。
作者研究小规模 LLM 智能体在显式 wall-clock 预算下能否按时返回，并把更多时间换成更好的解。
- 评测与基准arXiv 2610.10276
PatchBench 提出激活补丁局部评测协议，揭示越狱修复的附带损伤
提出 PatchBench-Local 协议，评测激活补丁修复越狱的局部附带损伤
- arXiv
- 2610.10276
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Qwen2.5-3B-Instruct、Qwen2.5-14B-Instruct、gemma-3-4b-it 等8个
摘要论文提出 PatchBench 与局部评估协议，揭示了激活补丁在全局能力无损下仍存局部良性退化。
- 评测与基准arXiv 2610.10062
研究：Agent 更依赖工具报错通道
测量工具调用 Agent 对显式报错与静默损坏的检测和恢复
- arXiv
- 2610.10062
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- claude-haiku-4.5-thinking、claude-haiku-4.5、deepseek-r1 等6个
摘要作者称智能体看错误通道而非返回内容，静默损坏更少被当作问题。
作者在 BFCL 多轮可执行环境上注入一次工具层故障，把注意到、改计划、恢复和重复分开记分，而不是只看任务有没有做完。