如何为尚不存在的 AI 智能体构建安全防护?
How Do You Build Security for AI Agents That Don’t Exist Yet?
AI 导读
OX Security 提出,AI 智能体安全不应围绕当下具体的智能体框架和架构来设计,而应押注那些能穿越架构更迭存活下来的能力特征。文章用"水母—青蛙—大脑"比喻软件演化:确定性软件如同只有反射的水母,当前把 LLM 接入工作流的智能体则是过渡期的青蛙,决策重心正持续向"大脑"迁移。当智能体拥有记忆、工具、身份与行动权限后,每个单独动作都可能合法,风险却来自跨合法能力的决策序列,因此安全需连接身份、访问、工具与运行时行为,回答系统能触达什么、拥有何种权限、实际在做什么、是否仍处于预期边界内。