Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Defenses and guardrails · Papers
Found 3 papers用分类后缀提升激活探针对分布外恶意输入的检测
- Published
- Evaluated models
- Llama-3.1-8B, Qwen3.5-9B, Gemma-4-12B
Abstract作者称排序增益来自分类格式，低 FPR 精度来自点名准则。
用户轮后的分类后缀，被作者用作激活探针的分布外检测干预：排序看格式，低 FPR 精度看是否点名恶意/良性。
提出 DART，用去噪表征转移检测多轮智能体攻击并注入提醒
- Published
- Evaluated models
- Qwen3-8B, Qwen3-14B, Qwen3-32B and others6
DefensesarXiv 2505.23559· 提出 SafeScientist 四层监控，阻止科研智能体执行高风险或不伦理任务
- Published
- Evaluated models
- GPT-4o, GPT-4.1, GPT-3.5-turbo and others5
Abstract四层监控加科研安全基准。
SafeScientist 是带四层监控的科研智能体框架，并用 SciSafetyBench 评测科学场景中的任务安全。
You have reached the end