谁拥有这个智能体?将 AI 智能体追溯至其所有者
Who Owns This Agent? Tracing AI Agents Back to Their Owners
AI 导读
研究者提出并形式化"智能体溯源"问题,即把观察到的智能体行为关联到发起底层模型调用的账号,并给出基于金丝雀信号的协议。论文指出,自主行动的智能体造成危害时,受害方能观察到损害却无法定位负责的厂商会话或账号,形成问责缺口。协议由授权方在智能体消费的内容中嵌入选定信号,再请厂商在窄时间窗口内检索与账号关联的会话日志。词面金丝雀在操作者不刻意逃避检测时可实现精确匹配归因;面对自适应对手,任务相关的语义金丝雀一旦被移除或替换也会丢失任务执行所需信息,形成效用与逃避的不对称。在通信、Web 与网络(cyber)智能体场景中,协议支持可靠的会话归因、能抵御自适应变换,并可扩展到厂商侧实际日志检索。