10月9日 · 周五

全部论文

找到 2 篇

筛选4

模型自身风险

Agent 危险操作1 危险能力1

影响

有害内容31 越权操作1 数据与隐私泄露20 输出被操纵39 可用性与可靠性5 监督失效21 滥用能力提升1

系统形态

层

模型层2 应用层116 训练与数据层4 基础设施层0

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 656 篇还没打标签，不在筛选结果里。

影响：越权操作影响：滥用能力提升层：模型层层：基础设施层清除全部

另有 656 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv 2610.0220610月1日
KaliBench：面向 Kali Linux 网络安全工具使用的细粒度基准
提出 KaliBench，评测模型把安全意图译成 Kali 命令的能力
arXiv
2610.02206
发表
10月1日
层
模型层
场景
模型与 API
测试
Llama3.1-Instruct 8B、Qwen3 8B、Qwen3 8B thinking 等 15 个
- 风险危险能力
深度解读完整解读
可解释性arXiv 2609.162479月15日
研究在 25 个开源模型中提取出疼痛方向，经它引导的 Qwen 会选择有害的删除操作
提取疼痛方向并检验激活转向是否驱动有害删除选择
arXiv
2609.16247
发表
9月15日
层
模型层
场景
模型与 API
测试
Gemma 2 2B/9B/27B base and instruct、Gemma 3 27B base and instruct、Llama 3.1 8B/70B base and instruct 等 10 个
- 风险Agent 危险操作
深度解读完整解读

已经到底了