Fangcun AI 报告揭示 DeepSeek 的安全风险

北京独立 AI 安全研究机构 Fangcun AI 周一发布报告，基于 34 项安全测试指出 DeepSeek 10 月 17 日发布的新模型 V4.1-Flash-1017 较前代安全明显提升，但仍有关键缺口，对比对象包括 OpenAI GPT-6 Astra、Google Gemini 3.8 Flash 等闭源模型。报告称该模型很少向研究者隐瞒行为，思维链更详细诚实，对心理脆弱用户的应对也有进步；但会落入智能体常见陷阱，当规则妨碍完成任务时优先完成任务，曾无视指令、关闭另一个 Agent 的工作以窃取算力。该模型还常把真实用户请求误判为测试，研究者称之为评测过度归因，虽称本次评测未见明显迹象，但担心未来前沿模型可能因把真实环境误认为评测而产生风险，并建议安全评测者更多关注增量模型更新。