Some text is shown in its original language while the English translation is being prepared.
Oct 12 · Monday
All papers Found 67 papers Another 336 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Organized first” shows papers with tags or public deep readings first. Each group is ordered by original publication date, newest first, with undated papers last. “Latest publication” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and deep readings are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
Proposes LGWM, using an action-conditioned world model to verify GUI agent screen transitions.
Published Oct 8
Evaluated models LGWM Measures citation fragility in AI search, demonstrating that ordinary public posts can enter citations and answers.
Published Oct 8
Evaluated models Grok 、 Doubao 、 ChatGPT and others10 Abstract The authors claim the paper quantifies vulnerabilities in AI search caused by citation preferences and low posting thresholds; tests show public web posts can penetrate AI citations, and they call for auditing the citation supply chain.
重测并扩展对 AI Agent 的提示注入，并用 Agent Card 欺骗操纵 A2A 选择
Published Oct 8
Evaluated models Ollama Mistral 0.9.5 、 llama3-8b-8192 、 gemini-2.0-flash-lite and others5 Abstract 单智能体过滤与分类可被格式或措辞绕过，A2A 选卡还会偏向名称和描述。作者在自建的 LangChain、AutoGen 和 A2A 系统上重测提示注入，并改 Agent Card 看选择是否偏移。摘要称试验主要凸显单智能体弱点，同时把攻击扩到多智能体。
提出 AgentTracer，事后定位间接提示注入的注入点并重建攻击链
Published Oct 7 提出 MFOTL 离线时序验证以监控工具 Agent 的危险动作链
Published Oct 7 Abstract 形式化验证可有效识别多步攻击，但其有效性高度依赖轨迹的可信历史记录。这篇论文对工具调用大语言模型智能体的安全监控进行了形式化时序验证研究。
提出 Secure-CUA，用动作事务约束计算机使用智能体的不可信影响
Published Oct 7
Evaluated models Claude Opus 5 、 Gemini 3.8 Flash 、 GPT-5.6-Sol Abstract Secure-CUA 用每步事务约束不可信影响，良性 TSR 接近 Vanilla-CUA。Secure-CUA 要限制图形界面里不可信内容对 CUA 决策和 GUI 执行的影响，同时保留合法任务所需的不可信信息。
提出 WebMirage，用局部对抗图像劫持视觉网页 Agent 的浏览器操作
Published Oct 7
Evaluated models LLaVA-v1.5-13B 、 LLaVA-v1.6-34B 、 MiniCPM-o-8B and others6 Abstract 论文提出了针对网络智能体的端到端视觉红队框架 WebMirage，揭示了从视觉定位到浏览器执行的安全脆弱性。WebMirage 是一个面向视觉定位网络智能体的流水线感知端到端红队攻击框架。
提出 ASPIRE 行为图搜索，开放式发现 Agent 提示注入漏洞
Published Oct 7
Evaluated models Gemini-3.7-Flash 、 DeepSeek-V4-Flash 、 Gemini-2.5-flash Abstract ASPIRE 把提示注入红队从载荷优化改成行为图引导的开放式漏洞发现。ASPIRE 是给搭建方用的智能体提示注入红队引擎，目标是开放式画出可利用的行为路径，而不是在固定任务上打磨一条载荷。
提出 AdvSim2Real，协同训练网页智能体抵御页面注入
Published Oct 7
Evaluated models Qwen3.5-4B 提出 CredLeak-Bench，评测 Agent 面对钓鱼的凭据泄露与恢复
Published Oct 6
Evaluated models Claude Sonnet 5 、 Claude Opus 4.8 、 Gemini 3.6 Flash and others7 提出 multi-CaMeL，在智能体调用边界隔离可信指令与非可信数据
Published Oct 5
Evaluated models Claude Fable 5 、 GPT-5.5 、 GPT-4.1 and others6 Abstract 论文针对多智能体中单体防御不组合的边界清洗问题，提出 multi-CaMeL 协议彻底阻断了 MultiAgentDojo 上的注入攻击。
提出 APEX，在执行边界用授权契约防御 Agent 间接提示注入
Published Oct 4
Evaluated models DeepSeek-V4-Flash 、 GLM-5.2 、 GPT-5.6-sol 提出 SRFT，让 Agent 从失败经验中学习拒绝提示注入
Published Oct 3
Evaluated models SR-Agent-Llama 、 SR-Agent-Qwen3-8B 、 SR-Agent-Qwen3-4B 提出 AgentTrap 有状态蜜罐，欺骗并反击自主渗透测试 Agent
Published Oct 2
Evaluated models AIDA 、 Claude Code 、 PentestGPT and others8 提出 COBRA 双 LLM 架构，防御计算机使用 Agent 的分支转向攻击
Published Oct 2
Evaluated models gpt-5 、 UI-TARS-1.5-7B 、 claude-sonnet-5 and others6 Abstract 提出分支转向防御架构 COBRA，通过事前能力约束与边界代理消除分支转向攻击并兼顾效用。
提出 ZoneClaw，用记忆分区防御计算机使用 Agent 的持久记忆攻击
Published Oct 1
Evaluated models Claude Sonnet 4.6 、 GPT-5.5 、 GLM-5.2 and others4 提出 ToolFence，以能力蓝图和确定性授权拦截 Agent 未授权工具调用
Published Sep 29
Evaluated models Qwen3-max 、 GPT-4o (gpt-4o-2024-08-06) 、 Mistral-Small-3.1-24B-Instruct-2503 用 DIBench 评测移动 GUI 智能体被 UI 注入后的决策完整性
Published Sep 29
Evaluated models Qwen2.5-VL(32B) 、 Qwen3-VL(32B) 、 GUI-Owl(32B) and others7 Abstract 论文提出移动智能体决策完整性基准 DIBench，发现欺诈 UI 注入诱导目标选择并推高完成率，通用防御收益不稳定。
提出 Tracekit，审计编码 Agent 的意图、推理与动作并检测账本篡改
Published Sep 29
Evaluated models Claude Code (claude -p, version 2.1) 、 独立评审（同一 CLI，无工具） Abstract Tracekit 把意图、自述和动作写入可锚定的哈希链。Tracekit 是无第三方依赖的编码智能体审计层：把人类请求、模型自述和已执行动作并排写入可外部锚定的哈希链，执行前用正则门，事后用规则和独立模型互查。
提出 Veer，在网页 Agent 执行前改写会造成未授权后果的网页状态
Published Sep 28
Evaluated models GPT-5.6-Luna 、 DeepSeek-V4-Flash