跳到正文
原文
OWASP AI Exchange· onurcangnc·本站收录· 原文发表日期未标· 工具 →· 扫描记录里的位置 →

OWASP AI Exchange 指南新增 RAG 检索授权测试示例

Add worked example for RAG retrieval authorization and design-time co…

AI 导读

OWASP AI Exchange 的 RAG 安全测试指南新增一个检索授权测试实例,用于直接对索引和检索器验证检索范围强制,而不依赖 LLM。做法是在源系统中给 Group A 独占读取某文档的权限并经正常管道摄取,再以组内成员和组外用户分别执行同一查询。先确认组内成员至少检索到该文档的一个分块,避免查询或摄取失败掩盖授权失败;然后在提示词组装前检查组外用户的检索结果,只要包含受限文档的任何分块即判定测试失败。指南同时说明,检索器返回未授权分块即应判失败,即使模型事后拒绝使用,数据也已离开信任边界。

阅读原文github.com