智能体安全是一个系统问题

一组安全研究者在 arXiv 发表立场论文，主张把智能体安全当作系统问题处理：将驱动智能体的模型视为不可信组件，在系统层强制执行安全不变量。论文认为，社区主流的提升模型鲁棒性路线单独并不足够，需要以系统安全领域的技术加以补充。作者基于操作系统、网络、形式化方法和对抗机器学习等数十年系统安全研究经验，提出一组核心原则，为设计具有可预测保证的智能体系统提供基础。作为证据，论文分析了十一起代表性真实智能体攻击，讨论若实现这些系统原则本可如何阻止攻击，并指出在智能体中落地这些原则面临的研究挑战。