跳到正文
原文
arXiv:危险能力与安全评测· arXiv:2610.35671· Yao Huang, Zhiyuan Zeng, Yu Wang, Zhitong Zhu, Dingcheng Duan, Hao Li, Shangzhi Xu, Yifan Wang, Jinzhe Tu, Shukun Xiong, Yihe Zang, Han Yan, Hongchang Yang, Fuyu Gu, Wei Xu, Yinpeng Dong, Xiaojian Li·本站收录· 原文发表

评估 DeepSeek V4.1 Flash-1017 的失控与有害操纵风险

Evaluating DeepSeek V4.1 Flash-1017 for loss of control and harmful manipulation risks

AI 导读

研究者对 DeepSeek V4.1 Flash-1017 开展独立安全评估,发现其安全性较 DeepSeek V4 一代明显提升,并在多个维度接近或持平领先闭源系统。评估参照欧盟《通用人工智能行为准则》,遵循 AEF-1 标准,覆盖 34 项基准(含 5 个自建套件),考察评估完整性、失控和有害操纵,对比对象包括 V4.1 Flash、更早的 V4 模型以及 GPT-6 Astra、GPT-5.6 Sol 和 Gemini 3.8 Flash。模型仍表现出一些值得关注的行为。作者建议把安全评测纳入增量发布;由于最终轮输出和终态检查无法可靠发现失控行为,部署需要覆盖推理轨迹和动作日志的过程级可观测性;公开基准会引发较强评测感知并存在数据污染风险,应开发私有基准。

阅读原文arxiv.org