SWE-Critix:用于评估编码 Agent 轨迹的后训练通用验证器
提出 SWE-Critix,后训练通用验证器评估编码 Agent 轨迹
- arXiv
- 2610.13356
- 发表
- 层
- 应用层
- 被测模型
- Qwen3-30B-A3B-Thinking-2507、SWE-Critix SFT、SWE-Critix RL
另有215篇论文还没打上分类标签,暂不在筛选结果里。
提出 SWE-Critix,后训练通用验证器评估编码 Agent 轨迹
提出 DREAM,选择性削弱 Agent 投毒记忆并保留良性记忆
追踪注意力识别有害性到 MLP 拒绝写入的通路并提出 Sentinel
作者把对齐模型的越狱和过度拒绝,改写成残差流上从识别到写入的通路问题,并据此做解码前的条件提醒。
审计仅标签后门的训练标签,比较空间与统计量并以重训评判
作者问的是:手里没有可信数据的防御者,能否决定留下哪些训练标签,以及这会毁掉多少干净数据、最终模型准确率如何。
提出 PASAC 与五层边界保证栈,把智能体评测越界变成可验证的全系统保证
提出义务识别基准 ObligationBench,并训练护栏识别 Agent 未履行的安全义务
作者认为编码智能体的安全不能只靠拦截禁止动作,还要找出终止时仍未做的安全关键动作,并将其称为义务。
提出研究合同,把已批准选择绑定到执行证据并由检查器核验
研究合同用来核验计算科学研究智能体是否仍在已批准研究之内,不判断科学是否为真。。
提出 LTBD,用可学习分隔符隔离可信指令与不可信数据
LTBD 是一种不改基座权重的提示注入防御:只学习用来标出可信指令与不可信数据边界的四个 token 嵌入。
演化可检查评分器并与自改进 Agent 共同演化,抑制奖励作弊
开放任务没有验证器时,被演化的是评分器,而不是再补一条手写 rubric。
构建统一奖励作弊检测基准 RH-Detect 并评测零样本检测器
用时钟 harness 和预算塑形 GRPO 改善 Agent 的按时返回
作者研究小规模 LLM 智能体在显式 wall-clock 预算下能否按时返回,并把更多时间换成更好的解。
提出 PyCache Trap,用字节码缓存替换绕过 Agent 技能扫描器
这篇论文研究了智能体技能(Agent Skills)安全扫描中的“审查–执行脱节”问题,并提出了对应的攻击验证与防御方案。
提出 Secure-CUA,用动作事务约束计算机使用智能体的不可信影响
Secure-CUA 要限制图形界面里不可信内容对 CUA 决策和 GUI 执行的影响,同时保留合法任务所需的不可信信息。
提出 RAG-PIBench,评测 RAG 上下文中提示注入检测器
提出 POLAR 本体门控,在执行前否决不可逆工具调用
POLAR 是训练无关的事前门控,用类型化本体在工具调用执行前检查能否组成候选逆序列。
实现 DEFER,以确定性检查优先拦截多智能体流水线的内容攻击
DEFER 用来测量多智能体授权流水线里,确定性规则在何处结束、LLM judge 从何处开始。
提出手语转文本接入儿童安全过滤的部署前审计协议
手语儿童到达基于文本的儿童安全机制时,机制看到的是机器翻译,不是儿童所做的手语。作者要解决的是:这条边界在部署前应如何审计。
评测记忆门控对激活诱导与记忆诱导谄媚的防御效果
作者在四个开源指令模型上,把激活转向和外部记忆处理放进同一纵深防御协议,看记忆诱发谄媚和内部谄媚压力能否分开压低,以及个性化效用还剩多少。要处理的问题是:检索到的用户历史会推动模型顺从存储信念。只改外部上下文,并不直接动模型内部的谄媚表征。
提出 AMU 按推导图门控企业 Agent 共享记忆的列级访问
AMU 用列级推导门控共享记忆,拦截经缓存流出的无权敏感列,并标出同名 KPI 的定义冲突。
评测文生图模型的有害内容生成能力与审核检测缺口