智能体计算的系统安全基础

一组安全研究者在 arXiv 发布论文，从经典网络安全的视角分析智能体 AI 系统的安全问题。论文指出，智能体因持续与第三方服务器交互而面临提示注入导致数据外泄等风险，而现有文献大多从 AI 视角出发，缺乏系统安全的视角与保证。作者以整个系统的端到端安全属性而非孤立模型为研究对象，识别了智能体 AI 安全的短期与长期研究问题，并将这些思路提炼给 AI 从业者。论文还覆盖 11 个针对智能体系统的真实攻击案例研究，并提出一系列该领域特有的新研究问题。