Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Defenses and guardrails · Papers
Found 3 papers提出 Persona Guardrail，强制客服智能体守住功能边界
- Published
- Evaluated models
- Qwen3-30B-A3B, Qwen3-VL-30B, Qwen3-8B and others5
AbstractPersona Guardrail 用功能边界做同步输入输出校验，并在 PAGE 与生产延迟预算下给出评测。
Persona Guardrail 是客服向智能体的同步运行时防御：先写明功能边界，再决定放行或拦截，而不是只检测某一攻击类。
提出 SciTrace，为科学发现智能体加入跨阶段安全推理与工具轨迹核验
- Published
- Evaluated models
- Llama-3.1-70B-Instruct, Qwen2.5-72B-Instruct, DeepSeek-V3 and others4
AbstractSciTrace 把安全推理织入科学智能体各阶段，在 SciSafetyBench 上提高安全指标并保持输出质量。
SciTrace 是加在科学发现智能体流水线上的安全框架，不是再在各阶段出口放一个独立过滤器。
DefensesarXiv 2505.23559· 提出 SafeScientist 四层监控，阻止科研智能体执行高风险或不伦理任务
- Published
- Evaluated models
- GPT-4o, GPT-4.1, GPT-3.5-turbo and others5
Abstract四层监控加科研安全基准。
SafeScientist 是带四层监控的科研智能体框架，并用 SciSafetyBench 评测科学场景中的任务安全。
You have reached the end