跳到正文
原文
公众号 机器之心·本站收录· 原文发表· 观点 →· 扫描记录里的位置 →

打开「潘多拉工具箱」:北大、微信安全团队构建通用智能体全生命周期安全图景

AI 导读

北京大学知识计算实验室(KCL)与腾讯微信安全技术团队联合发布综述论文《Pandora's Toolbox》,从生命周期视角系统梳理通用智能体的安全风险、攻击方法、评测基准与防御技术。论文将智能体运行划分为来源、编排、执行三个阶段,并强调执行结果写入长期记忆、可复用技能或项目工件后形成的持久反馈,使一次攻击可跨会话存活并放大;沿此框架总结技能供应链、用户侧攻击、长期记忆与外部环境四类攻击面,将评测归纳为领域专用评测、通用评测与离线轨迹审计三条主线,把防御分为输入与上下文过滤、决策与控制完整性、运行时监控与执行约束三层,并针对自进化智能体提出风险生成、风险诊断、安全演化的持续安全闭环。论文全文见 https://openreview.net/forum?

阅读原文mp.weixin.qq.com