AI Safety Daily:具身 AI 跨流水线威胁分类与 SAE 特征引导脆弱性
[AI Safety Daily] AI Safety Daily — May 26, 2026
AI 导读
AI Safety Daily 5 月 26 日刊汇总四项 AI 安全研究。具身 AI 安全调查(arXiv:2605.02900)提出跨感知、认知、规划与行动的流水线威胁分类,涵盖对抗、后门与越狱攻击;arXiv:2601.03047 发现稀疏自编码器特征引导会在语义远距的有害邻近语境误激活,作者称尚不可用于安全关键部署。AgentDoG(arXiv:2601.18491)以三维风险分类和护栏为智能体轨迹失败做根因归因,arXiv:2602.16666 则指单一分数榜单掩盖一致性、鲁棒性、可预测性与安全。