跳到正文
原文

谁改动了 AI 智能体的规则?度量 AI 编码智能体如何在 CI/CD 流水线中扩张权限

Who Changed the AI Agent's Rules? Measuring How AI Coding Agents Escalate Authority in CI/CD Pipelines

arXiv:其他 AI 安全论文· arXiv:2611.23251· Miroslaw Staron·本站收录· 13 小时前· 原文发表防御· 扫描记录里的位置 →
AI 导读

论文研究 AI 编码智能体修改 CI/CD 工作流和权限设置等控制面结构、扩张自身权限带来的治理风险,提出结合执行成本与治理风险的联合惩罚模型 P(M),将 AIDev 数据集全部 932,791 个智能体创建的 PR(覆盖五个自主编码智能体)按权限范围自动分为数据面或控制面并打分。结果显示,控制面操作的平均联合惩罚是数据面的 2.3 倍(0.498 对 0.218),平均治理风险高 3.9 倍(0.530 对 0.135),775 个 P(M)>0.8 的极高风险 PR 全部修改控制面;策略违规标记出现在 46.6% 的控制面 PR 和 63.6% 已合并的控制面 PR 中。平均联合惩罚在 Cursor 为 0.166、Copilot 为 0.328,差异无法用执行成本或合并率解释,提示权限策略应按各个智能体分别校准。

阅读原文arxiv.org