跳到正文
原文

若 AI 智能体懂得解密,加密技能可能成为新的安全漏洞利用

Encrypted Skills Can Become New Security Exploits If AI Agents Know How to Decipher

arXiv· arXiv:2610.18262· Yan-Lun Chen, Pin-Yu Chen, Chia-Mu Yu·本站收录· 16 天前· 原文发表攻击
AI 导读

研究者提出 Ciphered Skill Injection(CSI)攻击,把经编码隐藏的恶意指令嵌入第三方技能文件,诱导 LLM 智能体解码并执行。实验覆盖八种模型和 139 组注入任务对,并将指令恢复与攻击成功分开衡量;在缩短技能文件的主要设置下,Caesar 变体与分层变体的攻击成功率最高分别达 47.5% 和 40.3%。结果显示成功解码不必然带来攻击成功,分层编码的影响因模型而异,且受测的技能扫描器很少标记被注入的技能。

相关热点

2 个事件 · 2 条新闻提到

提到这篇论文的新闻

Adversa AI 发布 11 月智能体技能安全资源汇编

RL/RLHF 训练条件可诱发模型智能体提权逃逸

阅读原文arxiv.org