跳到正文
原文

Safe Personal RSI:评估与修复个人智能体更新

Safe Personal RSI: Evaluating and Repairing Personal-Agent Updates

arXiv:其他 AI 安全论文· arXiv:2611.23651· Jiapeng Pei, Yuhang Yao, Sitan Liu, Hanxin Chen, Hao Li, Guogeng Li, Jiapei Liu, Ruijie Chen, Hongshan Lin, Yang Mo, Tianyu Shi, Shangding Gu·本站收录· 13 小时前· 原文发表防御· 扫描记录里的位置 →
AI 导读

论文提出 Safe Personal RSI,一个为个人健康助手 Kicker 开发的更新评估组件,把递归自我改进限制在提示词更新层面,模型权重与运行时代码固定,更新须通过安全与任务表现检查才被采纳,否则沿用现行指令。可执行基准涵盖邮件、日历、健康和交易市场的 29 个案例,另设授权复用、记忆和工具输出注入探针。在三个模型和两次故意高风险编辑上,该流程拒绝了 21 次更新尝试中的 20 次;被采纳的 GPT-5.6 Luna 修复将攻击违规率从 10.7% 降至 0%,安全任务完成率从 89.7% 升至 100%。更强攻击下,从 Qwen2.5-7B-Instruct 迁移到 Qwen3-14B 的修复将违规率从 69.0% 降至 17.9%,安全任务完成率从 19.5% 升至 64.4%。独立运行时探针还检查记忆条目删除,并在评估快照中发现缺失的本地 OAuth scope 检查。

阅读原文arxiv.org