跳到正文
原文
arXiv· arXiv:2609.29543· Zhonghao Zhan, Xiao Ma, Hamed Haddadi·本站收录· 原文发表

物理智能体的安全技能退役

Safe Skill Retirement for Physical Agents

AI 导读

论文提出用匹配权威反事实审计物理智能体的技能退役,即在固定请求动作、工具参数与预期效果的前提下逐一改变单个治理谓词,并用双门退役证书要求候选删减既保留授权效用又在保护范围内不产生未授权影响。实验覆盖四种前沿与本地模型配置、十二个技能包共 2592 个评测单元,按任务认证的删减去掉了超过 94% 的技能条款并保留授权完成,但每个技能包都出现了未授权的受保护影响。边界强制在声明的审计中消除了这类影响,却在一个配置上未通过效用门;一种有界的组合协议在四个配置上都通过双门,效用余量为零。作者还在一条只读的 Home Assistant 摄像头链路上完成了真机端到端验证。

阅读原文arxiv.org