10月8日 · 周四

后门与投毒 · 论文

找到 2 篇

筛选2

攻击类型

提示注入1 投毒与后门1

攻击技术

编码与混淆1 潜伏触发1

模型自身风险

失准与价值偏离1 幻觉与编造1

影响

系统形态

模型与 API1 LLM 应用1 AI Agent2 编程 Agent1 网页与电脑操作1

攻击面/入口

工具与技能描述1 记忆写入1 分发渠道1

层

应用层1 训练与数据层1

系统组件

MCP 与技能1 记忆1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 66 篇还没打标签，不在筛选结果里。

系统形态：模型与 API 系统形态：编程 Agent 话题：后门与投毒清除全部

另有 66 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv:2610.08540 · 10月6日
论文提出按风险类别测量的对齐缩放定律框架
提出分风险对齐标度律框架，测量各类风险的对齐负担如何随规模变化
模型与 API测试Pythia (14m–2.8b)、Qwen2.5 (0.5B–72B)、Qwen2.5-Instruct (0.5B–14B) 等 4 个训练与数据层
- 失准与价值偏离
摘要论文提出了分风险对齐标度律框架，测得真实性与倾向纠错呈标度有益，但盲后门仍存活，揭示隐藏风险的长期挑战。
本文提出了一个将大语言模型对齐难度形式化为可测量标度关系的理论框架与预注册评测协议。
完整解读
攻击arXiv:2608.06862 · 8月7日
SynChain：诱导计算机使用 Agent 自建攻击链并跨任务持久化
提出 SYNCHAIN，以定向微调诱导智能体自合成跨任务潜伏工件
网页与电脑操作编程 Agent测试Qwen3.5-9B、Llama-3.1-8B、Ministral-3-8B 等 5 个应用层
摘要论文揭示了 CUA 自合成工件带来的内部供应链威胁，验证了潜伏载荷的跨任务传播能力与防御局限。
完整解读

已经到底了