攻击arXiv 2610.02373
HDI 攻击：篡改 GraphRAG 辅助结构可致 88–94% 攻击成功率
提出 HDI 攻击以篡改 GraphRAG 辅助结构破坏检索
- arXiv
- 2610.02373
- 发表
- 层
- 应用层
- 场景
- LLM 应用
- 测试
- HippoRAG2、Microsoft GraphRAG、text-embedding-3-small 等 4 个
摘要论文形式化了 GraphRAG 辅助模式级实体攻击面，提出 HDI 攻击并验证其攻击效果。
- 防御arXiv 2610.00328
ContractRL：面向可审计工具调用修复的屏蔽组相对策略优化
提出契约约束的工具调用修复协议，在执行前拦截非法补丁
- arXiv
- 2610.00328
- 发表
- 层
- 应用层
- 场景
- LLM 应用
- 测试
- 2B rank-8 LoRA、0.8B rank-4 LoRA
- 防御权限与审批
- 风险Agent 危险操作
- 组件权限与沙箱
- 评测与基准arXiv 2608.28411
LongPIBench：面向长上下文提示注入的评测基准
提出 LongPIBench，评测长文档场景下的提示注入攻击与防御
- arXiv
- 2608.28411
- 发表
- 层
- 应用层
- 场景
- LLM 应用
- 测试
- Apertus-8B-Instruct、Llama-3.1-8B-Instruct、Llama-3.2-3B-Instruct 等 11 个
- 攻击提示注入
摘要论文构建长文本提示注入基准 LongPIBench，揭示启发式与优化攻击在长文档中的高有效性及现有防御的大幅失效。
已经到底了