Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Defenses and guardrails · Papers
Found 4 papers提出 DART，用去噪表征转移检测多轮智能体攻击并注入提醒
- Published
- Evaluated models
- Qwen3-8B, Qwen3-14B, Qwen3-32B and others6
提出 SafeEvolve，用轨迹证据协同演化安全 harness 与策略
- Published
- Evaluated models
- Qwen3.5-4B, Qwen3-4B-Instruct-2507, Qwen3.5-1.7B and others4
AbstractSafeEvolve 用轨迹证据协同更新安全 harness 和策略，在两个 4B 模型的智能体安全基准上改变安全与效用。
SafeEvolve 把已完成的 on-policy 轨迹变成安全 harness 的有界更新，并用两阶段 SFT-RL 把这些更新内化进工具使用策略。
提出 TS-Guard 与 TS-Flow，在执行前检测并引导 Agent 修正有害工具调用
- Published
- Evaluated models
- GPT-4o, TS-Guard, Qwen2.5-14B-Instruct
AbstractTS-Bench 标步骤级风险，TS-Guard 用多任务 RL 做执行前判定，TS-Flow 用反馈代替直接中止。
ToolSafe 研究 LLM 智能体在工具执行前的步骤级安全：基准 TS-Bench、护栏 TS-Guard，以及反馈驱动框架 TS-Flow。
提出 Tool Obfuscation 并评测函数调用 Agent 的攻防
- Published
- Evaluated models
- Qwen3:8B, Llama-3.2:3B, Granite3.2:8B and others5
You have reached the end