CoSec：面向社区场景的 LLM Agent 安全基准

研究者提出 CoSec，一个用于评估 LLM Agent 系统在社区内部及跨社区运行时隐私与授权执行情况的可执行基准。该基准包含 208 个规范场景，覆盖固定与演化的社区边界、属于 Agent 所有者或其他参与者的受保护信息，以及通过对话、环境内容、持久记忆和组合工作流发起的攻击。CoSec 以持久会话、记忆、文件和工具运行完整 Agent 系统，并借助执行轨迹与产物对照当前授权状态验证信息流。结果显示，在不同 harness 与模型配置下，Agent 常能完成正常任务，却违反隐私与授权边界；隐私行为随 harness、攻击面和社区状态而变化，说明记忆、文件、工具与工作流都可能把受保护信息带出授权范围。作者据此指出，任务效用并不代表隐私或授权合规，社区场景下的授权仍是持久化 LLM Agent 尚未解决的安全挑战。