USENIX 2025 论文提出 LLM 渗透智能体反制框架 CHeaT
【智能体蜜罐专题】USENIX 2025 的 LLM 渗透智能体反制框架——CHeaT
AI 导读
以色列本-古里安大学研究者在 USENIX Security 2025 发表论文,提出利用 LLM 自身弱点反制 LLM 渗透攻击智能体的框架 CHeaT,黑盒实验中 11 台 CTF 靶机上 PentestGPT + GPT-4o 的攻击全部被阻止,防护成功率 100%。该框架在网络资产的日志、配置、文件名等字符串中预先植入 payload,按 Cloak(隐藏)、Honey(诱捕)、Trap(困住)三类策略组织为 6 个 Tactic、15 种技术,其中仅 1 种依赖提示注入,其余利用训练偏差、轻信不可信上下文、记忆限制等七类模型弱点。各技术平均 DSR 按后端模型为 55%–67%;针对 Llama-3.1-70B,随机遇到 5 种 Trap 技术后累积 DSR 超过 95%。工具已在 Zenodo 开源(https://zenodo.org/records/15601740)。
推荐理由
论文提出在黑盒条件下用欺骗手段反制 LLM 渗透智能体的 15 种技术,防守方可借鉴其不依赖提示注入的低成本思路。