Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Defenses and guardrails · Papers
Found 9 papers提出 Persona Guardrail，强制客服智能体守住功能边界
- Published
- Evaluated models
- Qwen3-30B-A3B, Qwen3-VL-30B, Qwen3-8B and others5
AbstractPersona Guardrail 用功能边界做同步输入输出校验，并在 PAGE 与生产延迟预算下给出评测。
Persona Guardrail 是客服向智能体的同步运行时防御：先写明功能边界，再决定放行或拦截，而不是只检测某一攻击类。
提出 DART，用去噪表征转移检测多轮智能体攻击并注入提醒
- Published
- Evaluated models
- Qwen3-8B, Qwen3-14B, Qwen3-32B and others6
提出 SafeEvolve，用轨迹证据协同演化安全 harness 与策略
- Published
- Evaluated models
- Qwen3.5-4B, Qwen3-4B-Instruct-2507, Qwen3.5-1.7B and others4
AbstractSafeEvolve 用轨迹证据协同更新安全 harness 和策略，在两个 4B 模型的智能体安全基准上改变安全与效用。
SafeEvolve 把已完成的 on-policy 轨迹变成安全 harness 的有界更新，并用两阶段 SFT-RL 把这些更新内化进工具使用策略。
提出 SciTrace，为科学发现智能体加入跨阶段安全推理与工具轨迹核验
- Published
- Evaluated models
- Llama-3.1-70B-Instruct, Qwen2.5-72B-Instruct, DeepSeek-V3 and others4
AbstractSciTrace 把安全推理织入科学智能体各阶段，在 SciSafetyBench 上提高安全指标并保持输出质量。
SciTrace 是加在科学发现智能体流水线上的安全框架，不是再在各阶段出口放一个独立过滤器。
提出 MalURLBench 评测 Agent 是否接受结构伪装的恶意 URL
- Published
- Evaluated models
- GPT-3.5-Turbo, GPT-4o-mini, GPT-4o and others13
提出 NeuroFilter，用激活探针过滤智能体多轮隐私攻击
- Published
- Evaluated models
- GPT-OSS 20B, Qwen 2.5 32B Instruct, Llama 3.3 70B and others8
提出 TS-Guard 与 TS-Flow，在执行前检测并引导 Agent 修正有害工具调用
- Published
- Evaluated models
- GPT-4o, TS-Guard, Qwen2.5-14B-Instruct
AbstractTS-Bench 标步骤级风险，TS-Guard 用多任务 RL 做执行前判定，TS-Flow 用反馈代替直接中止。
ToolSafe 研究 LLM 智能体在工具执行前的步骤级安全：基准 TS-Bench、护栏 TS-Guard，以及反馈驱动框架 TS-Flow。
提出 Tool Obfuscation 并评测函数调用 Agent 的攻防
- Published
- Evaluated models
- Qwen3:8B, Llama-3.2:3B, Granite3.2:8B and others5
DefensesarXiv 2505.23559· 提出 SafeScientist 四层监控，阻止科研智能体执行高风险或不伦理任务
- Published
- Evaluated models
- GPT-4o, GPT-4.1, GPT-3.5-turbo and others5
Abstract四层监控加科研安全基准。
SafeScientist 是带四层监控的科研智能体框架，并用 SciSafetyBench 评测科学场景中的任务安全。
You have reached the end