防御arXiv 2608.05578·8月6日AMS 工具通过激活分析检测语言模型的安全训练改动提出 AMS,用激活分离与方向相似度检测安全训练改动arXiv2608.05578发表8月6日层模型层场景模型与 API防御监控与审计攻击模型篡改组件微调与开源权重+1+1摘要AMS 按激活签名把安全改动分四类,前三类可由两级扫描覆盖,行为微调会漏。AMS 是面向开放权重模型、部署前使用的激活扫描器,用来看安全训练被拿掉或改写之后,激活空间里还留着什么几何痕迹。深度解读完整解读
评测与基准arXiv 2609.33102·9月27日ORBIT:基于 UK AISI Inspect 的多智能体安全评测框架提出 ORBIT 框架,评测多智能体系统中的攻击、合谋与多类防御arXiv2609.33102发表9月27日层应用层场景多智能体攻击提示注入风险欺骗与谋划组件监控器+1+1摘要ORBIT 用六层配置比较多智能体防御,逐动作监控不迁移到合谋。深度解读完整解读