跳到正文
事件观察中

北大与微信安全团队发布通用智能体全生命周期安全综述

1篇报道1个报道来源另1家媒体跟进最近报道

先了解这件事

AI 综述

北京大学知识计算实验室与腾讯微信安全技术团队发布通用智能体安全综述,将智能体运行分为来源、编排、执行三阶段,指出执行结果写入长期记忆、技能或工件后形成持久反馈,使一次攻击可跨会话存活并放大;总结技能供应链、用户侧、长期记忆与外部环境四类攻击面,归纳三条评测主线与三层防御,提出自进化智能体安全闭环。

AI 根据报道生成 · 3 天前更新

走势与进展

每小时关注度

现在 27,24 小时 -1%·峰值 31(11月14日 16:00)

11月15日11月16日11月17日11月18日11月19日11月20日现在 27

后续时间线

11月14日
  1. 公众号 机器之心
    打开「潘多拉工具箱」:北大、微信安全团队构建通用智能体全生命周期安全图景

    北京大学知识计算实验室(KCL)与腾讯微信安全技术团队联合发布综述论文《Pandora's Toolbox》,从生命周期视角系统梳理通用智能体的安全风险、攻击方法、评测基准与防御技术。论文将智能体运行划分为来源、编排、执行三个阶段,并强调执行结果写入长期记忆、可复用技能或项目工件后形成的持久反馈,使一次攻击可跨会话存活并放大;沿此框架总结技能供应链、用户侧攻击、长期记忆与外部环境四类攻击面,将评测归纳为领域专用评测、通用评测与离线轨迹审计三条主线,把防御分为输入与上下文过滤、决策与控制完整性、运行时监控与执行约束三层,并针对自进化智能体提出风险生成、风险诊断、安全演化的持续安全闭环。论文全文见 https://openreview.net/forum?

相关讨论

共3条

关注度走势

每天新增来源

7天共3个·最多2(11月14日)·今天0

  • 11月14日新增2个来源(1家媒体、1个账号)
  • 11月15日新增0个来源(0家媒体、0个账号)
  • 11月16日新增0个来源(0家媒体、0个账号)
  • 11月17日新增1个来源(1家媒体、0个账号)
  • 11月18日新增0个来源(0家媒体、0个账号)
  • 11月19日新增0个来源(0家媒体、0个账号)
  • 11月20日新增0个来源(0家媒体、0个账号)

每小时关注度

当前关注度27·可比范围峰值31(11月14日 16:00)·近 24 小时可比范围变化 -1%

01020304011月14日14:0011月16日10:0011月18日07:0011月20日03:00