10月8日 · 周四

全部论文

找到 3 篇

筛选1

攻击类型

越狱1 提示注入1 恶意使用1

模型自身风险

幻觉与编造1

防御类型

推理时干预1

影响

有害内容1 输出被操纵1

系统形态

模型与 API44 LLM 应用3 AI Agent5 编程 Agent2 多智能体1 具身与机器人1

攻击面/入口

层

模型层1 应用层2

系统组件

护栏与评审1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1049 篇还没打标签，不在筛选结果里。

系统形态：LLM 应用清除全部

另有 1049 篇论文还没打上分类标签，暂不在筛选结果里。

可解释性arXiv:2610.04860 · 10月4日
研究揭示文本水印会诱发模型幻觉，并提出两种缓解干预
揭示检索生成中文本水印诱发事实幻觉的机制并提出 FPTI 与 FPAI 干预
LLM 应用测试LLaMA 3.1 8B Instruct、Mistral-7B-Instruct-v0.3、Qwen2.5-14B-Instruct模型层
- 推理时干预
- 幻觉与编造
摘要论文揭示了生产环境文本水印导致模型事实退化的失效模式，分析了解码机制并提出针对性干预。
论文研究生产级文本水印对大语言模型事实准确性的影响，分析了水印诱发幻觉的失效模式并评估了针对性缓解方案。
完整解读
分析与理论arXiv:2608.17445 · 8月18日
论文：分解攻击可跨不可关联身份绕过 LLM 有状态防御
形式化跨不可关联身份的分解攻击，并证明状态化防御的效用边界
LLM 应用测试huihui-ai/Huihui-Qwen3.5-35B-A3B-abliterated、huihui-ai/Huihui-Qwen3.5-2B-abliterated、Granite Guardian 3.1 2B 等 5 个应用层
- 恶意使用
- 护栏与评审
完整解读
分析与理论arXiv:2610.01535 · 10月1日
论文：安全路由评测在分布偏移下失效，基线选取偏差被低估
分析分布偏移下安全路由评测的基线选择偏差与虚假下限
LLM 应用测试claude-3-5-sonnet、claude-3-opus、claude-sonnet-4-6 等 12 个应用层
- 越狱
摘要论文揭示安全路由评估在分布偏移下的虚假下限，指出防御重心应转向外部动作级强制。
完整解读

已经到底了