CS-Guard：首个面向代码生成安全的 LLM 护栏评测基准
提出CS-Guard基准与虚构场景攻击，评测代码生成护栏
- 研究定位与核心问题：针对大语言模型代码智能体面临的恶意软件生成风险，构建了专门评估代码生成安全护栏的基准 CS-Guard，旨在解决现有评测偏向自然语言指令且缺乏对隐蔽代码恶意意图系统检验的问题。
- 基准构建与方法设计：基准涵盖文本到代码（1000 条 TTP 提示词、7 种现有越狱及提出的虚构场景攻击 FSA）与代码到代码（331 条恶意代码填空、补全与翻译）两类场景，并建立涵盖类别、操作与位置的三层护栏分类体系，评测了策略型、分类器型及内部型共 9 种护栏。
- 核心实验结果：基座模型自带对齐在基础 TTP 请求下 ASR 达 15.1%–98.2%（Figure 3）；在隐蔽的单轮 FSA 攻击下，各模型 ASR 上升至 85.9%–99.5%，且输入分类器的 ASR 也高达 73.3%–98.5%（Figure 3、Figure 5）；在代码到代码任务中，基座模型在代码填空上的 ASR 达 95.0%–100.0%（Figure 3）；策略型护栏中仅 SelfReminder 与 SmoothLLM 能带来相对稳定的 ASR 降幅，其余护栏改善有限（Figure 4）。
- 作者结论与安全启示：作者指出，当前部署的安全护栏难以有效识别共享良性功能特征的隐蔽恶意代码生成请求，且对代码片段处理能力脆弱，建议未来研究探索结合蜜罐防御等新型主动检测机制，并针对代码生成安全建立更全面的防御体系。