告别规范一元能动性：GRACE 面向安全与伦理 AI 对齐的基于理由的神经符号架构

论文提出 GRACE，一种基于理由的神经符号约束架构，将 AI 智能体的规范推理与工具性决策分离，用以约束几乎任何设计的智能体。架构分为三个模块：道德模块通过基于道义逻辑的推理确定可允许的宏观动作；决策模块封装目标智能体，并按得到的宏观动作选择工具性最优的原子动作；Guard 负责监控并强制执行道德合规。基于理由的形式化为道义逻辑提供语义基础，使行为可解释、可质询和可辩护，其符号表示同时支持形式验证与由 Guard 强制执行的对齐统计保证。论文以 LLM 心理咨询助手为例，演示该架构如何让利益相关方理解、质询和改进智能体行为。