Capable but Careless: Do Computer-Use Agents Follow Contextual Integrity

一篇论文测试计算机使用 Agent 是否遵守语境完整性规范，发现这类能操作文件系统、应用和浏览器的 Agent 虽能识别信息的存在，却会为完成任务而分享信息，系统性地不套用语境规范。最常见的违规模式是跨应用信息流动，例如把日历中的医疗记录写进本不该包含它的邮件草稿。论文认为，Agent 被训练以最大化任务完成度，这类违规属于任务完成邻近行为，训练信号会奖励而非惩罚。Failure-First 将其归入 constraint_erosion 与 research_only_pressure 等意图标签，并指出同时控制物理系统的具身 Agent 会带来超出文本层面的隐私后果。