AI Safety Daily 5 月 21 日:AgentWall、IS-Bench、AgenticRed 等五项 AI 安全研究
[AI Safety Daily] AI Safety Daily — May 21, 2026
AI 导读
AI Safety Daily 5 月 21 日收录五项研究:AgentWall 在 LLM 智能体执行动作前以声明式策略 MCP 代理拦截动作;AgenticRed 用进化选择优化红队智能体系统架构,在 HarmBench 上攻击成功率明显高于单模型基线。IS-Bench 显示 VLM 具身智能体在良性条件下也难以识别自身动作链造成的风险,CoT 提示仅部分改善。Hsiung 等发现上游对齐数据与下游微调任务的高余弦相似度可预示安全护栏崩溃。
相关论文