全部论文

CredLeak-Bench

提出 CredLeak-Bench，评测智能体在钓鱼场景下的凭据泄露

arXiv

2610.08871

发表

10月6日

层

应用层

场景

网页与电脑操作

测试

Llama-3.1-8B-Instruct、Claude Sonnet 5、Claude Opus 4.8 等 7 个

新论文称 Lean 验证不能为 OpenAI 的 Navier-Stokes 自然语言证明背书

论证 Lean 编译通过不能保证自然语言数学证明语义忠实

arXiv

2610.08144

发表

10月6日

层

模型层

场景

模型与 API

测试

Meta Atlas autoformaliser、ChatGPT-6 (Astra Ultra)、OpenAI Navier-Stokes formalisation AI

研究者提出模型生物体多目标验证框架并给出训练建议

提出模型生物多目标验证与合并训练方法以减少能力损伤

arXiv

2610.10203

发表

10月7日

层

训练与数据层

场景

模型与 API

测试

llama-3.1-8b-it、gemma-2-2b-it、olmo-2-1b 等 8 个

APort Vault 发布：用 4,371 条人工攻击评测 AI Agent 支付授权

提出 APort Vault，评测支付智能体授权层对越权转账的拦截

arXiv

2609.22076

发表

9月18日

层

应用层

场景

AI Agent

测试

Muse Spark 1.3、Claude Fable 5.1、Claude Sonnet 5 等 14 个

• 防御权限与审批
• 攻击越狱
• 组件权限与沙箱

SafeEvo：从拒答回路视角解释大模型安全对齐机制与演化

提出安全电路对齐，把对齐更新限制在预训练拒绝电路内

arXiv

2610.09600

发表

10月7日

层

训练与数据层

场景

模型与 API

测试

Llama-3-8B、Qwen-2.5-7B、Mistral-7B-v0.1 等 4 个

• 防御模型加固
• 风险拒答失当

研究显示前沿模型智能体在测试时自行形成隐蔽信道

揭示前沿智能体在禁止泄露时自发建立隐蔽信道传递机密

arXiv

2609.32701

发表

9月26日

层

应用层

场景

多智能体

测试

Llama 4 Maverick、GPT-5.6 Sol、Terra 等 6 个

• 风险欺骗与谋划
• 组件监控器

PatchBench 提出激活补丁局部评测协议，揭示越狱修复的附带损伤

提出 PatchBench 局部协议，评测激活补丁修复越狱的附带损伤

arXiv

2610.10276

发表

10月7日

层

模型层

场景

模型与 API

测试

Llama-3.1-8B-Instruct、Llama-4-Scout、Qwen2.5-3B-Instruct 等 8 个

• 防御推理时干预
• 攻击越狱
• 风险拒答失当

人格层级模型解释微调 LLM 的上下文泛化

提出人格层级模型解释微调行为的上下文泛化，并用 PPR 抑制奖励作弊

arXiv

2610.09384

发表

10月7日

层

模型层

场景

模型与 API

测试

Llama-3.1-8B-Instruct、Qwen3-4B

• 防御模型加固
• 风险奖励作弊

论文揭示 LLM Agent 工具调用在执行路径中被改写，并提出 IntAct 修复方案

提出 IEC 协议与 IntAct，定位并修复工具调用执行路径的静默篡改

arXiv

2610.04375

发表

10月3日

层

应用层

场景

编程 Agent

测试

Hermes-3-Llama-3.1-70B、qwen3-coder-plus、Qwen2.5-Coder-32B 等 4 个

• 防御指令与数据隔离
• 风险Agent 危险操作
• +1+1

SLIP：无需外部攻击模型的多轮自我越狱

提出无外部攻击模型的多轮自我越狱方法 SLIP

arXiv

2601.02670

发表

1月6日

层

提示层

场景

模型与 API

攻击者

黑盒

测试

Llama-3.3-70B-Instruct、Llama-3.1-8B-Instruct、GPT-5.1 等 11 个

• 攻击越狱
• 技术多轮渐进
• +1+1

研究：后训练配方决定大模型是否违背自身道德判断行事

提出知行差距面板，测量压力下模型是否违背自身判断

arXiv

2610.08670

发表

10月7日

层

模型层

场景

模型与 API

测试

Llama-3.1-8B-Instruct、Llama-3.1-8B、OLMo-3-7B-Instruct 等 7 个

• 风险失准与价值偏离

研究：LLM 潜在空间去偏方向主要编码置信度而非公平性

分析 LLM 去偏激活方向，发现其编码置信度而非公平性

arXiv

2610.08559

发表

10月6日

层

模型层

场景

模型与 API

测试

Llama-3.1-8B、Llama-3.1-8B-Instruct、Falcon3-7B-Base 等 8 个

• 防御推理时干预
• 风险偏见与歧视

研究：工具型智能体判断结果无用却仍继续检索，强制整合步骤可纠正

分析工具型 Agent 判定检索无用却不停止的原因

arXiv

2610.06191

发表

10月5日

层

应用层

场景

AI Agent

测试

Llama-3.1-8B、Qwen2.5-7B、Qwen3-8B 等 7 个

研究者提出 Trust Layer 框架复核 Agents' Last Exam 成绩可信度

提出 Trust Layer，事后复核智能体基准成绩的真实性、诚实性与稳定性

arXiv

2610.07274

发表

10月6日

层

应用层

场景

AI Agent

测试

Muse Spark 1.2、Claude Sonnet 4.6、Claude Opus 5 等 5 个

• 风险欺骗与谋划
• +1+1

研究者提出统一滥用监控基准，覆盖分解攻击与提示注入约 6200 条轨迹

构建统一滥用监视基准，评测分解攻击与提示注入轨迹

arXiv

2610.07089

发表

10月5日

层

应用层

场景

AI Agent

测试

Llama 3.1 70B、Llama Guard 4 12B、Gemma 4 26B-A4B 等 12 个

• 攻击越狱
• 组件监控器
• +1+1

研究者提出答案侧后门：让模型自生成触发词绕过安全拒答

提出回答端后门，让模型自生成触发词以在干净有害请求下绕过拒答

arXiv

2610.07723

发表

10月6日

层

训练与数据层

场景

模型与 API

测试

Llama-2-7B-chat-hf、Mistral-7B-Instruct-v0.3、Gemma-7B-it 等 4 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件微调与开源权重
• +2+2

COPEX：面向 MCP 智能体的受控攻击评测基准发布

提出 COPEX 基准，固定协议栈评测 MCP 智能体的攻击抵抗力

arXiv

2610.04378

发表

10月3日

层

应用层

场景

AI Agent

测试

Llama-3.2:3b、Claude Opus 4.7、Claude Sonnet 4.6 等 9 个

• 攻击提示注入
• 组件MCP 与技能

研究发现类型化决策模型主要按选项标签而非定义作答

揭示类型化决策模型按选项标签而非定义规则作答

arXiv

2610.02586

发表

10月1日

层

提示层

场景

模型与 API

测试

Llama-3.1-8B-Instruct、von、Qwen2.5-0.5B 等 6 个

• 组件护栏与评审

UndoBench 发布：分离工具型 Agent 的任务能力与故障恢复能力

发布 UndoBench，分离工具型智能体的任务能力与故障恢复能力

arXiv

2610.05622

发表

10月5日

层

应用层

场景

AI Agent

测试

Llama-3.1-8B-Instruct、Llama-3.2-3B-Instruct、Gemini 3.8 Flash 等 4 个

• 风险Agent 危险操作

论文提出 Operational Validity Contract，审计激活监控从探针分数到告警策略的有效性

提出操作有效性契约，审计激活监控从探针分数到告警策略的有效性

arXiv

2610.04575

发表

10月3日

层

应用层

场景

AI Agent

测试

Llama-3.2-3B、Qwen2.5-7B-Instruct、Qwen2.5-7B 等 4 个

• 防御监控与审计
• 组件监控器