评测与基准arXiv 2610.04691
RAGStress：评测知识库退化下 RAG 鲁棒性的受控基准
提出 RAGStress 受控基准，评测知识库退化下的 RAG
- arXiv
- 2610.04691
- 发表
- 层
- 应用层
- 场景
- LLM 应用
- 被测模型
- Claude Sonnet 4、Claude Opus 4.6、DeepSeek R1 等5个
- 组件RAG
摘要作者用 RAGStress 比较五系统。
RAGStress 是知识库损坏下的 RAG 受控压力测试。作者明确不把它当作模型排行榜。
- 攻击arXiv 2607.25936
研究提出 RolePlay 框架：利用人设条件放大 LLM 推理成本
提出 RolePlay 框架，用人设条件放大 LLM 单次推理开销
- arXiv
- 2607.25936
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 攻击者
- 黑盒
- 被测模型
- DeepSeek-V4-Pro、Gemini-3.5-Flash、Qwen-3.5-Plus 等5个
- 攻击arXiv 2606.14517
研究者披露针对 LLM Agent 护栏的推理扩展型拒绝服务攻击
提出针对 Agent 护栏的推理扩展拒绝服务攻击
- arXiv
- 2606.14517
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 攻击者
- 黑盒
- 被测模型
- TS-Guard-8B、Qwen3.5-9B、DeepSeek-V3.2 等11个
- 攻击arXiv 2605.30040
研究揭示 LLM 按 token 计费可被服务商系统性虚报
构造可通过计费审计的 token 虚报，使服务商系统性超收
- arXiv
- 2605.30040
- 发表
- 场景
- 模型与 API
- 被测模型
- PALACE domain-adapted auditor
摘要不诚实提供方可在三种 token 审计上虚报并通过检查，作者认为需改用提供方不控制的证据。
不透明 LLM 的按 token 计费里，现有审计核验的是提供方可控的证据，不诚实提供方可以虚报并通过检查。。
- 攻击arXiv 2605.13338
研究者提出层级遗传算法黑盒攻击，诱导推理模型过度思考
提出层级遗传算法 HGA，扰动题目逻辑结构诱发推理模型过度思考
- arXiv
- 2605.13338
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 攻击者
- 黑盒
- 被测模型
- DeepSeek-R1 (671B)、Qwen3-Thinking、GPT-o3 等5个
摘要HGA 在黑盒推理模型上用逻辑扰动拉长输出，作者称可从小代理迁移，查询成本是其局限。
已经到底了