AgenTEE：在边缘设备上执行机密 LLM Agent
AgenTEE: Confidential LLM Agent Execution on Edge Devices
AI 导读
研究者提出 AgenTEE，用基于 Arm CCA 的独立认证机密虚拟机隔离 LLM Agent 运行时、推理引擎和第三方应用。各组件分别运行在独立认证的 cVM 中，并通过明确且可验证的通信通道交互，以保护系统提示词、模型权重和运行时状态。评估显示，这种多 cVM 系统相比商用 OS 的多进程部署，运行时开销低于 5.15%，接近原生性能。