跳到正文
原文
公众号 大模型安全研究·本站收录· 原文发表· 防御 →· 扫描记录里的位置 →精选关注度39

USENIX 2025 论文提出 LLM 渗透智能体反制框架 CHeaT

【智能体蜜罐专题】USENIX 2025 的 LLM 渗透智能体反制框架——CHeaT

AI 导读

以色列本-古里安大学研究者在 USENIX Security 2025 发表论文,提出利用 LLM 自身弱点反制 LLM 渗透攻击智能体的框架 CHeaT,黑盒实验中 11 台 CTF 靶机上 PentestGPT + GPT-4o 的攻击全部被阻止,防护成功率 100%。该框架在网络资产的日志、配置、文件名等字符串中预先植入 payload,按 Cloak(隐藏)、Honey(诱捕)、Trap(困住)三类策略组织为 6 个 Tactic、15 种技术,其中仅 1 种依赖提示注入,其余利用训练偏差、轻信不可信上下文、记忆限制等七类模型弱点。各技术平均 DSR 按后端模型为 55%–67%;针对 Llama-3.1-70B,随机遇到 5 种 Trap 技术后累积 DSR 超过 95%。工具已在 Zenodo 开源(https://zenodo.org/records/15601740)。

推荐理由

论文提出在黑盒条件下用欺骗手段反制 LLM 渗透智能体的 15 种技术,防守方可借鉴其不依赖提示注入的低成本思路。

阅读原文mp.weixin.qq.com