事件历史事件
nokast-secureRAG 小模型检测 RAG 提示注入
先了解这件事
AI 综述
研究者提出 nokast-secureRAG，一个约 0.5B 参数的小型语言模型，作为 RAG 流水线中检索与生成之间的语义防火墙，联合评估用户查询与检索上下文并分类为安全、可疑或恶意。该模型通过 teacher-judge-student 流程训练，35B 教师生成覆盖四类攻击的 5,233 条样本，独立的 120B 裁判重新标注，学生微调前一致率 95.0%。在分布内留出测试集上，检测召回 0.994、误报率 0.026。
AI 根据报道生成 · 23 天前更新
走势与进展
每小时关注度
现在 29，24 小时 0%·峰值 29（11月6日 04:00）
11月7日11月8日11月9日11月10日11月11日11月12日11月13日现在 29
相关研究
这件事的论文
- 在 RAG 流水线中用小型语言模型进行上下文感知的提示注入检测：nokast-secureRAG
arXiv · 2026-10-20 · 深度解读
后续时间线
10月20日
- arXiv：对抗攻击、后门与投毒在 RAG 流水线中用小型语言模型进行上下文感知的提示注入检测：nokast-secureRAG
研究者提出 nokast-secureRAG，一个约 0.5B 参数的小型语言模型，作为 RAG 流水线中检索与生成之间的语义防火墙，联合评估用户查询与检索上下文并分类为安全、可疑或恶意。该模型通过 teacher-judge-student 流程训练，35B 教师生成覆盖四类攻击的 5,233 条样本，独立的 120B 裁判重新标注，学生微调前一致率 95.0%。在分布内留出测试集上，检测召回 0.994、误报率 0.026、攻击成功率代理指标 0.006，优于 regex 基线、公开提示注入分类器、Llama Guard 3 1B 和未微调版本；Prompt-Guard-86M 召回 0.900 但误报率 0.690。消融显示检索上下文携带主要攻击信号，单请求延迟 293-404 ms 高于 100 ms 目标，批处理下摊薄吞吐延迟 37 ms。