事件历史事件
AgentSafeEvo：智能体安全对抗协同演化框架
先了解这件事
AI 综述
arXiv 发布 AgentSafeEvo，一个面向 LLM 智能体的对抗协同进化强化学习框架：攻击方学习构造能暴露防御方工具使用弱点的对抗任务，防御方则学习在这些攻击下安全完成任务。框架引入可学习性引导的任务加权，按任务内防御方奖励波动调整各任务对攻防双方更新的贡献。在智能体安全与通用能力基准上的实验显示，该方法提升了对抗鲁棒性，同时保持通用智能体能力。
AI 根据报道生成 · 29 天前更新
走势与进展
每小时关注度
现在 23，24 小时 0%·峰值 23（11月6日 03:00）
11月7日11月8日11月9日11月10日11月11日11月12日11月13日现在 23
相关研究
这件事的论文
- AgentSafeEvo：面向 LLM 智能体安全的对抗协同进化框架
arXiv · 2026-10-14 · 深度解读
后续时间线
10月21日
- 小红书小红书 AI安全之心· 讨论AgentSafeEvo：LLM智能体安全对抗协同进化（新标签页打开原帖）
10月14日
- arXiv：对抗攻击、后门与投毒AgentSafeEvo：面向 LLM 智能体安全的对抗协同进化框架
AgentSafeEvo 是面向 LLM 智能体的对抗协同进化强化学习框架，攻击方学习构造能暴露防御方工具使用弱点的对抗任务，防御方则学习在这些攻击下安全完成任务。该框架引入可学习性引导的任务加权，按任务内防御方奖励波动调整各任务对攻防双方更新的贡献。在智能体安全与通用能力基准上的实验显示，该方法提升了对抗鲁棒性，同时保持通用智能体能力。
相关讨论
共1条
- 72 小时以前 · 不计入 72 小时的数字
- 小红书小红书 AI安全之心AgentSafeEvo：LLM智能体安全对抗协同进化（新标签页打开原帖）