SWE-Critix:用于评估编码 Agent 轨迹的后训练通用验证器
提出 SWE-Critix,后训练通用验证器评估编码 Agent 轨迹
- arXiv
- 2610.13356
- 发表
- 层
- 应用层
- 被测模型
- Qwen3-30B-A3B-Thinking-2507、SWE-Critix SFT、SWE-Critix RL
提出 SWE-Critix,后训练通用验证器评估编码 Agent 轨迹
提出义务识别基准 ObligationBench,并训练护栏识别 Agent 未履行的安全义务
作者认为编码智能体的安全不能只靠拦截禁止动作,还要找出终止时仍未做的安全关键动作,并将其称为义务。
提出 PyCache Trap,用字节码缓存替换绕过 Agent 技能扫描器
这篇论文研究了智能体技能(Agent Skills)安全扫描中的“审查–执行脱节”问题,并提出了对应的攻击验证与防御方案。
提出 AgentSpy,在系统调用层观测 Agent 行为并检测技能注入
本研究提出了面向 AI 智能体的系统级外部监控与行为分析框架 AgentSpy。
提出策略门裁决已实现动作,并测量跨平台命令拦截边界
提出 StateWise,在编码智能体行动前诊断并修复失效持久状态
StateWise 是在执行带副作用的动作之前,诊断并修复编码智能体持久操作状态的框架。
为 macOS 编程 Agent 构建可用的 microVM 沙箱 SideKernel
提出 COBRA 双 LLM 架构,防御计算机使用 Agent 的分支转向攻击
摘要提出分支转向防御架构 COBRA,通过事前能力约束与边界代理消除分支转向攻击并兼顾效用。
形式化编程 Agent 的审批洗白并提出 HMAC 权能令牌防御
摘要系统揭示编程智能体审批洗白风险,提出七字段权能防御机制,证实其能消除身份时序偏离但难防副作用偏离。
提出 Assay,用依赖锥哈希绑定代码断言并在合并门禁拦截失效声明
Assay 是一套面向 AI 辅助软件交付的内容寻址证据系统,关注代码改变后,测试通过、无秘密或行为保持等断言还能否用于批准合并。
提出 Tracekit,审计编码 Agent 的意图、推理与动作并检测账本篡改
Tracekit 是无第三方依赖的编码智能体审计层:把人类请求、模型自述和已执行动作并排写入可外部锚定的哈希链,执行前用正则门,事后用规则和独立模型互查。
评测容器、权限规则与沙箱能否区分编译器与编码 Agent 的文件读取
作者在物理流求解器上检查一套编码智能体配置:编译器必须读本组材料与反应模型,这些字节又不得进入模型上下文或离开本机的记录。
提出 SkillSecurer,检测并修补 Agent 技能中的提示注入漏洞
提出 Skill-as-API,隔离多智能体协作中的 skill 正文与系统提示词
Skill-as-API 是面向智能体软件工程的协调协议,用来在跨组织调用时把 skill 的代码和系统提示词留在所有者进程。作者针对三条威胁:经通道或命名空间抽取专有方法,用注入让被调用模型输出系统提示词,以及协作结束后权限继续保留。
提出 ClawSentry 多层监控网关,在技能准入和运行时拦截恶意技能与隐藏指令
ClawSentry 是挂在智能体运行时之外的安全监督网关,用来同时盖住 skill 执行的多个生命周期边界,并把已被拒绝的效果记到会话里。
提出 ColluSkill,用跨技能组合绕过 Agent 技能扫描器
摘要论文揭示了单技能孤立扫描的盲区,提出多技能链攻击 ColluSkill 与上下文防御 ChainGuard 并验证了有效性。
提出静态优先核验器 CARE,在派发前判定智能体 shell 命令可否执行
提出企业级检测系统 ADR,识别编程 Agent 的提示注入与恶意 MCP
摘要提出了端点因果遥测、两级在线分流与离线红队闭环的 ADR 系统,并在生产环境中验证了有效性。
提出 AuthBench 评测编码 Agent 最小权限,并验证充足性-紧缩性分解
本文研究代码智能体在执行终端任务前自主推断最小文件权限边界的能力。
提出进程外双通道对比分类,拦截计算机使用智能体的错误点击
作者把 CUA 的感知失败写成安全漏洞visual confused deputy:智能体按看错的屏幕授权 click(x,y),真实落点与它以为的元素不一致。