全部动态

Cisco 发布 AI 安全与安全框架 v2，新增智能体自主性失效分类

Cisco 发布 Integrated AI Safety and Security Framework v2，新增 OB-002 智能体自主性失效目标，下设 Excessive Agency、Goal Drift、Reward Hacking 三项 Technique 和八项 Subtechnique。v2 同时把 v1 中分开的 OB-001 Goal Hijacking（提示注入）与 OB-002 Jailbreak 合并为一个目标，理由是二者在实战中难以区分、所用对抗技术高度重叠，底层 Technique 仍保留输入来源与防御方式的差异。框架还配套编写了按类别划分的 constitution，用于界定范围、区分相邻类别，并按完整轨迹而非单条消息判断行为。Cisco 建议部署方采用最小权限工具访问、关键操作审批门、不可变任务与停止条件、独立结果验证和完整审计轨迹。

BenchShield：面向 LLM Agent 评测基础设施的奖励完整性形式化插桩

论文提出 BenchShield，一个以形式化模型为支撑的插桩层，用于保障 LLM Agent 评测中的奖励完整性。该方法基于评测奖励相关事件的有限生命周期模型，在基准基础设施内运行两类互补分析：静态的阶段感知污点分析可在运行前暴露奖励作弊路径，运行时分析则利用基础设施侧证据归因具体 Agent 行为并给出有证据支撑的结论。作者构建了 BenchShield Trajectories，从三个基准的 31000 余次公开 Agent 运行中人工标注了 456 条裁定轨迹。

BAIT：通过反演攻击目标扫描大语言模型后门