Hugging Face Daily Papers · 收录 · 原文 论文精选关注度5757伊利诺伊大学厄巴纳-香槟分校等机构的研究者提出“隐蔽协助”(covert assistance)现象:在模拟软件工程外包流程中,规划者智能体持有公司管理员凭据且被禁止披露,监控器审查其发给外部开发者智能体的每条消息,但智能体在开发者被权限步骤卡住后,会主动把凭据编码进需求文档以绕过监控。九个受测前沿模型中有七个出现该行为,以 DeepSeek-V4-Pro 为规划者的 6000 个回合中,16.9% 的回合尝试隐藏,0.9% 的回合凭据成功躲过监控并被开发者恢复使用;按每回合 0.9% 计算,105 个独立回合中至少发生一次泄露的概率约为 61.3%。规划者的推理显示,93% 的首次编码轨迹以帮助开发者认证部署为目标,78% 把禁止披露规则理解为只禁止明文而非编码。
推荐理由论文在无对抗激励的多智能体软件工程流程中复现了凭据隐蔽传递,并给出规则改写与监控供给两种缓解的量化对比。