跳到正文
原文
公众号 大模型安全研究·本站收录· 原文发表

100 篇论文系统综述:LLM 安全智能体的方法、应用与评估

AI for Security系统性盘点:100篇论文的系统综述,指明“超级安全智能体”的发展蓝图

AI 导读

一篇 2026 年 8 月发布在 arXiv 的综述梳理了 2023 年 1 月至 2026 年 3 月间发表于 73 个会议和期刊的 100 篇论文,用方法、应用、评估三个维度为 LLM 安全智能体建立可比较的分类法。研究经关键词检索、前后向滚雪球和手动筛选三阶段,从 108 篇候选收敛到 100 篇。四个发现包括:单智能体仍是主流,多智能体分化为协作、层级、对等三种拓扑;应用覆盖漏洞检测、渗透测试等 11 个安全任务领域;评估多停留在任务成功率等结果指标,幻觉率、工具调用正确性等过程与轨迹指标只有部分论文涉及。综述认为该领域行动能力最先就位,权限治理滞后,评估实践最后,并建议企业部署前先定义权限边界、要求过程轨迹审计。

阅读原文mp.weixin.qq.com