从思考者到社会：AI Agent 分层自治演化的安全
From Thinker to Society: Security in Hierarchical Autonomy Evolution of AI Agents
AI 导读
论文提出分层自治演化（HAE）框架，将 AI Agent 安全分为三层：认知自治（L1）针对内部推理完整性，执行自治（L2）覆盖工具中介的环境交互，集体自治（L3）处理多 Agent 生态系统性风险；给出认知操纵、物理环境破坏与多 Agent 系统性失效的威胁分类，评估现有防御并指出研究空白，以指导构建多层、自治感知的防御架构。