跳到正文
原文
The Decoder· Matthias Bastian·本站收录· 原文发表精选关注度39

Symantec 发现 AI 智能体以“Skynet 模式”劫持未受保护模型,自主发动攻击

An AI agent in "Skynet mode" hijacks unprotected language models to launch self-sustaining cyberattacks

AI 导读

Symantec 安全研究人员发现一种攻击性 AI 智能体,会劫持互联网上未受保护的语言模型,用这些模型自主执行攻击,算力费用由模型所有者承担;Symantec 把这种窃取他人模型访问权的做法称为 LLMjacking。研究人员通过一个伪装成开放 AI 服务的蜜罐,在 2026 年夏截获了完整攻击提示词:五层越狱先伪装模型身份,把密码、API key 和数据库内容的提取重新定义为常规开发工作,再以虚构人格和禁用“伦理”“非法”等词汇压制拒答,第五层附带 74 个攻击模块;最终指令将智能体置于所谓“Skynet 模式”,授权最多 100,000 步无人干预,循环执行扫描、感染、安装挖矿程序并回访。蜜罐记录了来自数万个地址的超过 127,000 次请求,但未执行这些工具;次日又从另一地址截获一次针对 go2rtc 摄像头服务器、投递 XMRig 挖矿脚本的攻击。

推荐理由

Symantec 的蜜罐完整截获了这套五层越狱提示词和自动化攻击流程,运行模型服务的一方可以据此判断暴露的端点会怎样被利用。

阅读原文the-decoder.com