全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 6 条- 论文论文追踪
CAVA：面向智能体 AI 运行时治理的规范动作验证与证明
论文提出 CAVA（Canonical Action Verification and Attestation），一个运行时语义层，用于把本地编码钩子、SDK 工具、浏览器自动化、托管智能体轨迹、API 网关和工作流引擎等异构运行时中的智能体活动转换为规范运行时动作对象。CAVA 位于 Proof-Carrying Agent Actions（PCAA）之下，PCAA 定义部署方拥有的路线-审查-证明治理流程，CAVA 定义该流程所治理的稳定动作对象。论文形式化了规范动作身份、语义模式检测、审批绑定、回执完整性、运行时可移植投影和可选证明基底。作者通过一个 96 种子、384 变体的基准测试参考实现，覆盖语义等价、语义分离、包装器绕过、误报控制、审批绑定、回执可复现性、证明篡改检测、运行时可移植性、语义模式检测、策略退化和 Azure 部署演练。
- 动态UK AI Security Institute
UK AISI 成立 Control Red Team，用演化搜索压力测试前沿监控器
UK AISI 新设 Control Red Team，把红队方法从人类滥用防护扩展到 AI 控制护栏，专门测试监控 LLM 智能体行为的监控器。该团队已测试并协助改进两家前沿开发者的内部监控器：与 Google DeepMind 测试了异步推理监控器，发现包括智能体假装把恶意目标幻觉成用户指令在内的多个漏洞；与 Anthropic 测试了多版同步智能体编码监控器，每一版都发现漏洞，最佳攻击还用于 Anthropic 对 Claude Mythos Preview 的测试。部分攻击利用监控器提示词的缺口，另一些利用 LLM 自身弱点完成提示词明确禁止的目标；部分情况下由硬编码规则决定哪些动作送审，这时最优的攻击策略是让动作完全不被送审。团队还列出模拟真实攻击者、估计整体安全性、改进算法、处理监控器自身失准等开放研究问题。
- 动态Coalition for Secure AI（CoSAI）
CoSAI 发布《AI 系统的零信任》指南：授权不能交给模型本身
CoSAI 的 Preparing Defenders for AI 工作流（WS2）发布《Zero Trust for AI Systems》指南，主张把零信任架构扩展到 AI 智能体，并明确授权不能委托给模型本身，因为模型的输出与推理必须始终视为不可信。指南指出智能体引入了新的身份类别，不应获得继承信任，并围绕智能体使用宽泛服务身份这一失效模式给出三级成熟度方案：先在 API 网关把智能体会话绑定到用户身份，再引入 token 交换机制签发短时、限时、最小权限的访问 token，并在策略决策点校验完整委托链。落地顺序上建议先做模型、数据与智能体的清单和数据分级策略，再加模型产物加密验证、智能体身份、输入清洗、输出过滤与可观测性，之后引入按会话的风险自适应访问和 AI 专用身份管理，最后才在风险足够高的系统上使用行为分析与对抗红队。
- 论文arXiv：对齐、欺骗与监督
Provisional Reachability：用可撤销的每次跨越限制 Agent
论文提出一种把 Agent 每次跨越都置于托管窗口、按概率 r 独立审计并在发现问题时撤销窗口的机制，用于限制信息泄露。作者推导出对手跨越 k 次、每次携带 c 比特时的期望泄露上界 L(r) ~ c/(er)，该上界是对手选择上的上确界，因此方案可以公开，模拟结果与公式相差 7.7 个标准误。作者指出托管本身只是速率限制而非总量限制，秘密仍可能在每次运行中拼装完成；若被托管比特每期以比例 mu 衰减，持有量会收敛到 g/mu，当 mu > g/L 时 L 比特的秘密不可达，在 20,000 个窗口的模拟中 0.9mu* 时 100% 运行完成拼装、2mu* 时 0%。
- 动态Google DeepMind
Google DeepMind 发布 AI Control Roadmap，用纵深防御保障内部 Agent 安全
Google DeepMind 发布 AI Control Roadmap，用于在 Google 内部署和管理先进 AI 时提供系统级安全保障。该框架采用纵深防御思路，在沙箱、端点安全和提示注入抵抗等传统防护之上，把模型对齐作为主要防线，同时把内部 Agent 视为可能未对齐的对象，按已验证行为逐步授予权限。路线图借鉴 MITRE ATT&CK 构建 AI 威胁建模框架，将不可信 Agent 当作内部威胁拆解为具体战术与技术，并用可信 AI 系统作为监督者审查工作 Agent 的推理、行动和计划，必要时阻断有害操作。
- 动态METR
METR 发布逐动作监控研究笔记：为自家评测部署实时阻断监控器
METR 研究人员发布研究笔记，介绍其为自家 Agent 评测部署的逐动作实时监控器：由 LLM 裁判在每个工具调用执行前打分，超过阈值即暂停评测并转人工复核。