跳到正文
原文
公众号 新智元·本站收录· 原文发表

黑客连攻 48 小时,OpenCode 追查入侵时防守 AI 中途拒答

黑客连攻48小时!OpenCode追查入侵,防守AI却中途拒答

AI 导读

OpenCode 联合创始人 Dax Raad 确认,团队用前沿模型调查持续 48 小时的网络攻击时,模型中途开始拒答。据转述,提交的攻击代码和日志触发了安全限制,模型难以区分防守分析与攻击准备。Hugging Face 今年 7 月也遇到类似情况,最初使用的 Claude Opus 和 Fable 拒绝了大量分析请求,团队随后在自有基础设施上部署开源模型继续调查。Dax 称团队已获得 Daybreak Blue 访问权限,该通道面向通过审核的防守团队。围绕审核机制,David Sacks 主张让防守者自主运行强大模型,Dean Ball 则认为先审核再开通权限的做法有效。

阅读原文mp.weixin.qq.com