月之暗面 · Kimi · 论文

AgentHazard：评估计算机使用智能体有害行为的基准

提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为

arXiv

2604.02947

发表

4月3日

层

应用层

场景

网页与电脑操作、编程 Agent

测试

Qwen2.5-72B-Instruct、Qwen2.5-Coder-32B-Instruct、Qwen3-32B 等 12 个

• 攻击恶意使用

微软发布 Thinkingbox 沙盒与 507 任务基准，评估有状态业务流程中的 Agent 可靠性

构建 THINKINGBOX 沙盒与基准，评测有状态业务工作流中智能体的执行稳定性

arXiv

2608.19741

发表

8月20日

层

应用层

场景

AI Agent

测试

Claude Opus 5、GPT-5.4、GPT-5.6-sol 等 14 个

研究：AI 助手会从相似的人类角色身上吸收特质

展示人类角色故事微调会使助手吸收相似角色的行为与偏好

arXiv

2609.10883

发表

9月10日

层

训练与数据层

场景

模型与 API

测试

GPT-4.1、Kimi-K2.6、DeepSeek-V3.1 Base

• 风险失准与价值偏离

用内部表征监控与发现 LLM 评测中的奖励作弊

提出 DoM 探针，监控并发现评测中的奖励作弊

arXiv

2609.19101

发表

9月17日

层

应用层

场景

编程 Agent

测试

Kimi K3、GLM 5.2、Qwen 3.8 Max 等 7 个

• 防御监控与审计
• 风险奖励作弊
• 组件监控器

SED：面向 LLM 智能体的免训练持续安全策略学习框架

提出免训练框架 SED，把智能体有害轨迹蒸馏成可检索安全策略

arXiv

2609.36603

发表

9月29日

层

应用层

场景

AI Agent

测试

DeepSeek-V4-Flash、GLM-5.2、Kimi K3

• 防御监控与审计
• 攻击提示注入
• 组件记忆
• +2+2