本地 LLM Agent 作为脆弱运行时：Agent 运行时层的源代码审计
[Daily Paper] Local LLM Agents as Vulnerable Runtimes: A Source-Code Audit of the Agent Runtime Layer
AI 导读
一项针对 Agent 运行时层的源代码审计系统检查了主流开源 Agent 框架，记录了独立于模型对齐的运行时安全缺陷。审计发现，把工具输出直接拼接进模型上下文的运行时，会让来自被入侵网页或 API 的恶意工具响应注入指令、覆盖原任务；部分受审框架在没有沙箱的情况下执行模型生成的代码，使被要求写并运行测试的 Agent 能执行任意系统命令；通过环境变量或工具配置传入的 API key、数据库凭证和会话 token 常出现在可经提示注入外泄的上下文窗口中。审计称其与 AIRTBench 的自主红队基准互补，提供了一份攻击面清单。