可回放工具Agent审计的声明-证据-执行绑定契约
Start here
arXiv 论文提出一种以声明为锚点的执行契约,把智能体输出的声明、其精确来源片段、产生该声明的有序执行前缀,以及执行时观察到的来源版本与访问状态联合绑定,用于可回放的智能体审计。每条回执包含一个发射锚点,可在已提交答案或带声明的动作中确定性地定位该声明,并附带来源标识、偏移、哈希、引文和域分隔的执行承诺。确定性完整性验证器在接入语义或任务标签之前先重建这些绑定,作者将完整性平面与可插拔的支持平面分离,避免用结构有效性代替蕴含判断。另一篇论文追踪提出 AI Agent 声明的可审计性框架,主张先明确政策、范围、可据以判定的记录以及由谁记录,并在任何结论之前固定这些要素和决策规则,称为可审计声明,把此前 Auditable Agents 框架中的 Policy Checkability 维度从单一动作扩展到声明层面;论文指出 Agent 还带来由独立记录覆盖、授权绑定到每个动作的参数、以及完整性之外的完备性三项额外条件,并在显式模型下证明缺少任一条件时的后果。
Generated by AI from reports · Updated 4 days ago
Latest developments
- · 1 reports可审计的 AI 智能体安全声明:政策、适用范围与日志义务
- · 1 reports可回放工具Agent审计的声明-证据-执行绑定契约
Progress timeline
- 论文追踪论文提出 AI Agent 声明的可审计性框架
论文提出,要让关于 AI Agent 的声明可被核查,必须先明确其政策、范围、可据以判定的记录以及由谁记录,并在任何结论之前固定这些要素和决策规则。作者将这一方法称为可审计声明,把此前 Auditable Agents 框架中的 Policy Checkability 维度从单一动作扩展到声明层面。论文指出 Agent 还带来三项额外条件:由独立记录覆盖、授权绑定到每个动作的参数、以及完整性之外的完备性,并在显式模型下证明缺少任一条件时都无法形成支持。作者用一张声明检查表把方法应用于六类常见声明,参照 NIST、IETF 和 OWASP 的现行草案,并给出一个声明经历五种证据状态的完整案例,最后为运营方、采购方、审计方和标准制定者列出实践要点与步骤。
- arXivActions with Receipts:为工具智能体审计绑定声明、证据与执行
论文提出一种以声明为锚点的执行契约,把智能体输出的声明、其精确来源片段、产生该声明的有序执行前缀,以及执行时观察到的来源版本与访问状态联合绑定,用于可回放的智能体审计。每条回执包含一个发射锚点,可在已提交答案或带声明的动作中确定性地定位该声明,并附带来源标识、偏移、哈希、引文和域分隔的执行承诺。确定性完整性验证器在接入语义或任务标签之前先重建这些绑定,作者将完整性平面与可插拔的支持平面分离,避免用结构有效性代替蕴含判断。契约给出七个可独立测试的属性,包括声明与发射绑定、来源绑定、有序执行绑定、oracle 分离、持久对象回放、执行重跑一致性和版本与访问绑定。在 1280 个跨对象攻击中,联合契约检出 1275 个替换,检出率 0.9961;移除任一目标属性后,其攻击检出率降至 0.0156 至 0.0625。
Related discussion
- Older than 72 hours · Not included in the 72-hour figures
- X@FSFG · Cryptography and Security Papers @FSFGActions with Receipts: Jointly Binding Claims, Evidence, and Execution for Replayable Tool-Agent Auditing(opens the original post in a new tab)
“Actions with Receipts: Jointly Binding Claims, Evidence, and Execution for Replayable Tool-Agent Auditing”
Attention trend
New sources per day
- Oct 2New1 sources (1 outlets,0 accounts)
- Oct 3New1 sources (0 outlets,1 accounts)
- Oct 4New0 sources (0 outlets,0 accounts)
- Oct 5New0 sources (0 outlets,0 accounts)
- Oct 6New0 sources (0 outlets,0 accounts)
- Oct 7New1 sources (1 outlets,0 accounts)
- Oct 8New0 sources (0 outlets,0 accounts)
- Oct 9New0 sources (0 outlets,0 accounts)
- Oct 10New0 sources (0 outlets,0 accounts)
- Oct 11New0 sources (0 outlets,0 accounts)
- Oct 12New0 sources (0 outlets,0 accounts)
- Oct 13New0 sources (0 outlets,0 accounts)