跳到正文
原文

zkARc:面向神经符号自然语言形式化与验证的简洁可验证证明

zkARc: Succinctly Verifiable Proofs for Neurosymbolic Natural Language Formalization and Verification

arXiv:越狱、提示注入、投毒与防御· arXiv:2611.10031· Wyatt Benno, Alberto Centelles, Aman Goel, Benjamin Kiesl-Reiter·本站收录· 7 天前· 原文发表日期未标防御
AI 导读

研究者提出 zkARc,一个将 Automated Reasoning checks(ARc)的每个阶段包裹在独立、简洁可验证零知识证明中的模块化框架,使第三方无需重跑流水线或信任运营方即可核验策略确实被执行。ARc 是把自然语言策略翻译为形式逻辑、再用 SMT 求解器校验 AI 生成内容的神经符号系统;zkARc 为规划器输出、策略形式化、动作形式化和两次求解器查询出具证明,回执绑定到实际执行的动作,并在所述假设下不泄露声明的公开信息与裁决之外的私有策略和中间模型值。作者在显式假设下证明了组合回执的完备性、知识健全性与零知识性。基于 Qwen2-0.5B 的实现端到端执行一项消费策略,批准两笔购买、拒绝第三笔;包含模型推理证明的完整回执在纯 CPU 下约 1 小时生成、1 分钟内完成验证,仅求解器证明为 88 KiB、0.3 秒内验证。

阅读原文arxiv.org