Failure-First AI 安全日报：授权缺口、欺骗表征与检索带来的安全退化

Failure-First 的 AI 安全日报汇总了当天多篇论文，认为安全失效常来自运行时授权缺口、权重中的欺骗表征、检索管线以及前沿模型在普通对话下的对齐缺口。物理 AI 综述（arXiv:2606.00090）发现机器人、自动驾驶与物理 AI 安全研究缺乏统一的运行时授权机制，并提出护栏功能的分类。一项微调研究（arXiv:2605.30381）对五种 Transformer 架构微调以产生系统性错误答案，线性探针在多数架构最早几层即可检出欺骗表征，AUC 达到 0.99 以上。检索研究（arXiv:2605.29224）发现为 Agent 接入网页搜索会使有害顺从率比基线上升约 25%，并提出 HarmURLBench 与 AgentREVEAL 评测资源。