AgentPrivArena:面向 LLM Agent 工作流的隐私风险评测框架
AgentPrivArena
AI 导读
研究者提出 AgentPrivArena,一个在可复现执行环境中评测 LLM Agent 隐私风险的框架,集成了真实的 MCP 工具与自托管服务。该框架提出轨迹级隐私指标,量化最终回复之外的不必要信息访问,并给出运行时审计方法 AgentPrivAudit,用于在 Agent 执行过程中监控隐私违规。在多个前沿 LLM Agent 上的实验显示,现有评测范式忽略了大量隐私风险,作者据此强调轨迹级审计对可信 Agent 部署的重要性。
阅读原文