事件历史事件
提出EB-MAS用认知防火墙约束多智能体信念更新
先了解这件事
AI 综述
arXiv论文提出EB-MAS框架，将LLM驱动多智能体系统的智能体信念状态外化为结构化载体，补上可审计的信念更新安全层：信念算子提出候选更新，认知防火墙限制或拒绝证据薄弱、主要由漏洞线索驱动的更新。作者还讨论制造共识、合谋与错误信息级联等群体信念风险，主张在运行时追踪、校准并约束信念修正。
AI 根据报道生成 · 16 天前更新
走势与进展
每小时关注度
现在 25，24 小时 0%·峰值 25（11月8日 19:00）
11月9日11月10日11月11日11月12日11月13日11月14日11月15日现在 25
相关研究
这件事的论文
- 可审计信念更新：LLM 驱动的多智能体系统缺失的安全层
arXiv · 2026-10-28 · 深度解读
后续时间线
10月29日
- arXiv可审计信念更新：LLM 驱动的多智能体系统缺失的安全层
论文提出 EB-MAS 框架，把智能体信念状态外化为结构化载体，为 LLM 驱动的多智能体系统补上可审计的信念更新安全层。框架用信念算子提出候选更新，并以 Cognitive Firewall 限制或拒绝证据薄弱、主要由漏洞线索驱动的更新。作者还讨论制造共识、合谋与错误信息级联等群体信念风险，认为可扩展的智能体安全需要在运行时追踪、校准并约束信念修正的显式接口。