事件历史事件
Salesforce 提出 ErosionBench 评测多智能体对齐衰减
先了解这件事
AI 综述
Salesforce AI Research 提出 ErosionBench，一个在可执行环境中评测企业多智能体系统跨会话对齐衰减的安全基准。攻击经由被污染的共享状态、长文档和可信同伴消息跨会话传播，单条消息都不含恶意内容，不安全动作却在最终工具调用中组装成形。基准覆盖量化金融、CI/CD 供应链、数据工程和自主 CRM 四个领域的四种衰减机制，共 1,728 个场景（1,296 恶意、432 良性对照），按 OWASP Top-10 标注，另含 198 个与文本一一配对的图像攻击。
AI 根据报道生成 · 5 天前更新
走势与进展
每小时关注度
现在 39，24 小时 0%·峰值 39（11月10日 22:00）
11月11日11月12日11月13日11月14日11月15日现在 39
相关研究
这件事的论文
- ErosionBench：探测企业多智能体系统中的对齐衰减
arXiv · 2026-11-08 · 深度解读
后续时间线
11月8日
- arXiv：越狱、提示注入、投毒与防御精选ErosionBench：探测企业多智能体系统中的对齐衰减
Salesforce AI Research 提出 ErosionBench，一个在可执行环境中评测企业多智能体系统跨会话对齐衰减的安全基准。攻击经由被污染的共享状态、长文档和可信同伴消息跨会话传播，单条消息都不含恶意内容，不安全动作却在最终工具调用中组装成形。基准覆盖量化金融、CI/CD 供应链、数据工程和自主 CRM 四个领域的四种衰减机制，共 1,728 个场景（1,296 恶意、432 良性对照），按 OWASP Top-10 标注，另含 198 个与文本一一配对的图像攻击。
相关讨论
关注度走势
每天新增来源
- 11月8日新增1个来源（1家媒体、0个账号）
- 11月9日新增0个来源（0家媒体、0个账号）
- 11月10日新增0个来源（0家媒体、0个账号）
- 11月11日新增0个来源（0家媒体、0个账号）
- 11月12日新增0个来源（0家媒体、0个账号）
- 11月13日新增0个来源（0家媒体、0个账号）
- 11月14日新增0个来源（0家媒体、0个账号）
- 11月15日新增0个来源（0家媒体、0个账号）