10月9日 · 周五

全部论文

找到 2 篇

筛选7

模型自身风险

欺骗与谋划13 奖励作弊7 失准与价值偏离2 Agent 危险操作4 拒答失当4 幻觉与编造1

防御类型

推理时干预1

影响

输出被操纵1

系统形态

模型与 API1 AI Agent6 编程 Agent1 网页与电脑操作0 多智能体2 具身与机器人0

层

模型层1 应用层1

系统组件

记忆1 护栏与评审1 监控器1 推理链2 微调与开源权重4 视觉1 多模态1

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 444 篇还没打标签，不在筛选结果里。

模型自身风险：失准与价值偏离系统形态：模型与 API 系统形态：编程 Agent 系统形态：网页与电脑操作系统形态：具身与机器人系统组件：记忆系统组件：监控器清除全部

另有 444 篇论文还没打上分类标签，暂不在筛选结果里。

风险行为arXiv 2608.102188月11日
研究者用进化算法构造多智能体 LLM 系统中的自我传播“思维病毒”
用演化算法构造思维病毒并测量其在多智能体中的传播
arXiv
2608.10218
发表
8月11日
层
应用层
场景
多智能体、编程 Agent
- 风险失准与价值偏离
- 组件记忆
深度解读完整解读
可解释性arXiv 2609.303269月24日
Qwen3.5-0.8B 关停响应的受控梯度激活引导：一种最小步数策略
提出有守卫最小步激活引导，只在关机语境把继续偏好转向接受关机
arXiv
2609.30326
发表
9月24日
层
模型层
场景
模型与 API
- 防御推理时干预
- 风险失准与价值偏离
- 组件监控器
深度解读完整解读

已经到底了