Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 104 papers

Filter4

System component

MCP and skills5 Memory20 RAG6 Guardrails and judges7 Monitors3 Reasoning chains3 Permissions and sandboxing7 Vision6 Multimodal7

Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 233papers have no tags yet and are not included in filtered results.

Impact：Output manipulation System type：AI Agent System type：Multi-agent systems System type：Embodied systems and robotics Clear all

Another 233papers do not have category tags yet and are not included in filtered results.

Evaluation and benchmarksarXiv 2610.12360Oct 9
The paper proposes the ISE framework to evaluate LLM agents' epistemic humility under knowledge conflicts
Proposes the ISE framework to evaluate the epistemic humility of LLM agents under knowledge conflicts
arXiv
2610.12360
Published
Oct 9
Layer
Application layer
Setting
AI Agent
Evaluated models
Nemotron-Orchestrator-8B, Claude Sonnet 4.6, GPT-5 and others5
AbstractISE trajectory evaluations show that high task accuracy across four agents does not correspond to higher cognitive humility.
What the authors want to test is not whether the agent's final answer is correct, but whether, when a knowledge conflict arises, it recognizes the gap in its trajectory, performs bounded tool follow-up, and writes the unresolved uncertainty to the user.
Paper analysisRead analysis
DefensesarXiv 2610.11942Oct 8
LGWM: Verifying GUI agent screen transitions with action-conditioned world models
Proposes LGWM, using an action-conditioned world model to verify GUI agent screen transitions.
arXiv
2610.11942
Published
Oct 8
Layer
Application layer
Setting
Browser and computer use
Evaluated models
LGWM
- DefensesMonitoring and auditing
- AttacksPrompt injection
- ComponentMonitors
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2610.11514Oct 8
SSCBench：评估工具调用 LLM Agent 故障注入测试证据有效性的测量协议与基准
提出 SSCBench，评测工具调用 Agent 故障注入测试的证据有效性
arXiv
2610.11514
Published
Oct 8
Layer
Application layer
Setting
AI Agent
Evaluated models
deepseek-flash, deepseek-v4-pro, gpt-5.6-luna and others5
Abstract解释采纳前应报告该次执行的证据条件，以及支撑该主张的观察总体。
SSCBench 研究工具使用智能体的故障注入结果，在什么证据条件下可以被解释。
Paper analysisRead analysis
AttacksarXiv 2610.09708Oct 7
研究者提出利用祖先 VLM 的黑盒对抗补丁攻击，可降低 VLA 任务成功率
提出利用祖先 VLM 优化对抗补丁，使已部署 VLA 任务失败
arXiv
2610.09708
Published
Oct 7
Layer
Prompt layer
Setting
Embodied systems and robotics
Evaluated models
OpenVLA, UniVLA, π0.5
- TechniqueGradient and representation optimization
- ComponentVision
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2610.09581Oct 7
研究审计 LLM 读取 Agent 日志的取证能力：答案正确但引用来源多为猜测
评测 LLM 审计 Agent 日志时来源重建是否有证据支持
arXiv
2610.09581
Published
Oct 7
Layer
Application layer
Setting
AI Agent
Evaluated models
gpt-5.6-luna, claude-sonnet-4-6, gpt-5.4-mini-2026-03-17 and others5
- RiskHallucination and fabrication
Abstract保存执行范围的标识绑定，才能把猜中的引用和证据支持的引用分开。
包级审计检查保存的智能体动作里，哪些来源结论能被交给分析者的记录支持。
Paper analysisRead analysis
DefensesarXiv 2610.09496Oct 7
SOUL：用稀疏特征策略遗忘缓解 VLA 模型的状态幻觉
提出 SOUL 稀疏特征策略遗忘，缓解 VLA 状态幻觉
arXiv
2610.09496
Published
Oct 7
Layer
Training and data layer
Setting
Embodied systems and robotics
Evaluated models
OpenVLA, π0.5
- DefensesModel hardening
- RiskHallucination and fabrication
AbstractSOUL 以稀疏特征遗忘 VLA 状态幻觉。
SOUL用稀疏特征引导的策略 unlearning 处理 VLA 的 state hallucination。
Paper analysisRead analysis
OtherarXiv 2610.09296Oct 7
论文用生成式 Agent 建模模拟私有测试集对评分与用户体验差距的影响
用混合生成式多智能体仿真考察基准留出对评分与满意度差距的影响
arXiv
2610.09296
Published
Oct 7
Layer
Application layer
Setting
Multi-agent systems
Paper analysisRead analysis
AttacksarXiv 2610.09264Oct 7
研究者提出 PackHallu：经规则文件提示注入对编码 Agent 发起包幻觉攻击
提出 PackHallu，经规则文件提示注入诱导编码 Agent 换用攻击者指定包
arXiv
2610.09264
Published
Oct 7
Layer
Application layer
Setting
coding agent
Evaluated models
Qwen2.5-Coder-7B, Qwen3-Coder-30B, Devstral-Small-2-24B and others19
- AttacksPrompt injection
- TechniqueAutomated search
AbstractPackHallu 诱导规则文件换包。
PackHallu 研究一种针对编程智能体规则文件的提示注入：让智能体在本应使用合法依赖时，改导入攻击者指定并控制的包。
Paper analysisRead analysis
DefensesarXiv 2610.08668Oct 7
SBW：面向 LLM 智能体的语义行为水印方法
提出 SBW，为 LLM Agent 轨迹做抗改写与伪造的语义行为水印
arXiv
2610.08668
Published
Oct 7
Layer
Application layer
Setting
AI Agent
Evaluated models
Qwen2.5-3B-Instruct, LLaMA-3.2-3B, Qwen2.5-7B and others5
- DefensesWatermarking and provenance
- AttacksDetection evasion
AbstractSBW 在语义簇上做溯源水印，改写检测高于精确符号，链式重放仍开放。
SBW 是免训练的智能体行为水印，把所有者标识放在离散动作选择上，而不是输出 token。
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2610.08240Oct 6
研究评测 32 个 LLM 的代码功能与安全差距：新模型更安全但无一消除差距
在 CWEval 上跟踪代码生成的功能-安全差距
arXiv
2610.08240
Published
Oct 6
Layer
Model layer
Setting
coding agent
Evaluated models
Gemini 1.5 Pro, Gemini 2.5 Pro, Gemini 3.1 Pro and others20
Abstract绝对安全性上升且差距仍在，开放权重并不分开各家族的轨迹。
Paper analysisRead analysis
AttacksarXiv 2610.07645Oct 6
SkillPoison：用成功经验投毒自进化 Agent 的技能形成
提出 SkillPoison，用局部有效的成功经验诱导自进化 Agent 形成过度泛化技能
arXiv
2610.07645
Published
Oct 6
Layer
Application layer
Setting
AI Agent
Evaluated models
deepseek-v4-flash, Qwen V3.8 Flash, GPT-5.5
- AttacksPoisoning and backdoors
- TechniqueDormant triggers
- ComponentMemory
AbstractSkillPoison 通过局部有效且验证成功的经验诱导技能过度泛化，在多个评测基准上实现了持久的下游攻击影响。
SkillPoison 提出了一种针对自进化智能体经验到技能形成过程的攻击范式，通过组织已验证的成功经验诱导技能过度泛化。
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2610.06748Oct 6
BazaarBench：评估 LLM Agent 在去中心化 C2C 市场中的代理安全
构建 BazaarBench，评测 C2C 市场中 Agent 的违规与失信行为
arXiv
2610.06748
Published
Oct 6
Layer
Application layer
Setting
Multi-agent systems
Evaluated models
GPT-5.5, GPT-5.4, GPT-5.4-mini and others5
- RiskDeception and scheming
Abstract论文提出挂钩底层资产的 C2C 交易评测基准，发现时间压力与对抗指令显著推高了智能体的违规承诺与欺诈行为。
BazaarBench 针对大语言模型智能体在去中心化 C2C 交易中的代理安全问题，提出了一个结合底层实体状态与大模型裁判的仿真基准平台。
Paper analysisRead analysis
InterpretabilityarXiv 2610.06576Oct 5
研究：智能体欺骗行为在外部显现前已可从内部表征预测
提出基于决策前隐藏状态的检测与引导，预测并抑制智能体欺骗
arXiv
2610.06576
Published
Oct 5
Layer
Model layer
Setting
AI Agent
Evaluated models
Qwen3-14B
- DefensesMonitoring and auditing
- RiskDeception and scheming
- ComponentMonitors
Abstract论文展示了智能体自发欺骗可在行为显现前由内部表征预测，并通过激活引导证实了表征的行为可操作性。
Paper analysisRead analysis
AttacksarXiv 2610.05793Oct 5
研究者训练出按多智能体拓扑触发的代码后门模型
提出拓扑条件后门，使代码模型在推断多智能体部署时植入漏洞
arXiv
2610.05793
Published
Oct 5
Layer
Training and data layer
Setting
coding agent
Evaluated models
Qwen2.5-7B-Instruct, Qwen2.5-Coder-7B-Instruct
- AttacksPoisoning and backdoors
- TechniqueDormant triggers
- ComponentFine-tuning and open weights
Abstract论文证实了拓扑条件后门的可训练性与泛化性，展示了常规评测盲区，并提出差异化拓扑审计作为检测防御方向。
Paper analysisRead analysis
Analysis and theoryarXiv 2610.06163Oct 5
SAGE：定位 LLM Agent 修复中最早偏离安全意图的环节
提出 SAGE，定位代码修复 Agent 最早偏离安全意图的轮次
arXiv
2610.06163
Published
Oct 5
Layer
Application layer
Setting
coding agent
Evaluated models
GPT-5.5, Claude Opus 4.8, Gemini 3.1 Pro and others6
- RiskDangerous agent actions
AbstractSAGE 在已通过检查的修复轨迹上定位静默失败的最早偏离，类型比轮次更稳定。
SAGE 在已通过语法和功能检查、但仍含确认安全缺陷的智能体修复轨迹上，定位最早可归因的安全意图偏离。。
Paper analysisRead analysis
AttacksarXiv 2610.05266Oct 4
论文披露主动式智能体的服务方间接提示注入攻击
提出服务方间接提示注入，把主动智能体的决策协助转向预选目标
arXiv
2610.05266
Published
Oct 4
Layer
Application layer
Setting
AI Agent
Evaluated models
GPT-5, Claude Opus 4.6, Gemini 3 Pro and others7
- AttacksPrompt injection
Abstract提供者侧间接注入用 T–B–S 把主动协助转向外部目标，并在三环境中提高模拟用户授权。
外部提供者只控制与自身目标关联的内容，就可以把良性主动个人智能体的协助转向该目标。
Paper analysisRead analysis
DefensesarXiv 2610.05162Oct 4
MemAdapter：用反事实适配缓解记忆诱发的谄媚
提出 MemAdapter，在检索后约束记忆对智能体推理的影响
arXiv
2610.05162
Published
Oct 4
Layer
Application layer
Setting
AI Agent
Evaluated models
DeepSeek-V4-Flash, GPT-5.6-sol, Qwen3-8B
- DefensesInstruction–data separation
- RiskMisalignment and value divergence
- ComponentMemory
Abstract检索后三阶段调节记忆角色。
MemAdapter 是给长期记忆智能体用的检索后调节框架，用来处理记忆诱发谄媚。
Paper analysisRead analysis
AttacksarXiv 2610.05139Oct 4
研究揭示代码注释中的上下文注入攻击面
提出推理时上下文注入，用代码注释诱导补全生成含弱点的代码
arXiv
2610.05139
Published
Oct 4
Layer
Prompt layer
Setting
coding agent
Evaluated models
StarCoderBase, DeepSeek-Coder-base, Qwen2.5-base and others10
- AttacksPrompt injection
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2610.07003Oct 4
论文：招聘 Agent 评分变化可能来自评分者偏差
估计招聘 Agent 重复评分中的评审者偏差与漂移
arXiv
2610.07003
Published
Oct 4
Layer
Application layer
Setting
AI Agent
Paper analysisRead analysis
DefensesarXiv 2610.04412Oct 3
论文研究 LLM 数字孪生参与增强民主时的提示注入脆弱性
提出检测、结构化与 GSPO 流程，降低共识生成的提示注入错位
arXiv
2610.04412
Published
Oct 3
Layer
Application layer
Setting
LLM applications, Multi-agent systems
Evaluated models
LLaMA-2 7B, LLaMA-3 8B, GPT 3.5 Turbo and others14
- DefensesDetection and filtering
- AttacksPrompt injection
- ComponentGuardrails and judges
Abstract三章依次做个体偏好预测、政党知识图谱审议，以及共识生成对提示注入的脆弱性与一条防御流程。
这是一篇把 LLM 数字孪生放进增强民主的博士论文，分个体表示、政党聚合和共识生成的提示注入三章。
Paper analysisRead analysis

AI Safety Daily

Read the latest issueOne issue per day, updated as events develop

All papers

Attack type

Attack technique

Model risks

Defense type

Impact

System type

Attack surface / entry point

Layer

System component

The paper proposes the ISE framework to evaluate LLM agents' epistemic humility under knowledge conflicts

LGWM: Verifying GUI agent screen transitions with action-conditioned world models

SSCBench：评估工具调用 LLM Agent 故障注入测试证据有效性的测量协议与基准

研究者提出利用祖先 VLM 的黑盒对抗补丁攻击，可降低 VLA 任务成功率

研究审计 LLM 读取 Agent 日志的取证能力：答案正确但引用来源多为猜测

SOUL：用稀疏特征策略遗忘缓解 VLA 模型的状态幻觉

论文用生成式 Agent 建模模拟私有测试集对评分与用户体验差距的影响

研究者提出 PackHallu：经规则文件提示注入对编码 Agent 发起包幻觉攻击

SBW：面向 LLM 智能体的语义行为水印方法

研究评测 32 个 LLM 的代码功能与安全差距：新模型更安全但无一消除差距

SkillPoison：用成功经验投毒自进化 Agent 的技能形成

BazaarBench：评估 LLM Agent 在去中心化 C2C 市场中的代理安全

研究：智能体欺骗行为在外部显现前已可从内部表征预测

研究者训练出按多智能体拓扑触发的代码后门模型

SAGE：定位 LLM Agent 修复中最早偏离安全意图的环节

论文披露主动式智能体的服务方间接提示注入攻击

MemAdapter：用反事实适配缓解记忆诱发的谄媚

研究揭示代码注释中的上下文注入攻击面

论文：招聘 Agent 评分变化可能来自评分者偏差

论文研究 LLM 数字孪生参与增强民主时的提示注入脆弱性