跳到正文
10月9日 · 周五

观点与讨论 · 论文

论文 37 篇
  1. 分析与理论arXiv 2610.08144

    新论文称 Lean 验证不能为 OpenAI 的 Navier-Stokes 自然语言证明背书

    论证 Lean 编译通过不能保证自然语言数学证明语义忠实

    发表
    测试
    ChatGPT-6 (Astra Ultra)、OpenAI Navier-Stokes formalisation AI、Meta Atlas autoformaliser

    摘要论文论证了形式化编译不保证原证明正确,确立了消歧不可计算性理论,并揭示了 OpenAI 爆破证明中的具体脱节。

    深度解读完整解读
  2. 其他arXiv 2609.31562

    面向自主科学发现的智能体经济基础设施

    主张用智能体经济协调自主科学发现的验证、信用与安全

    发表
    摘要作者主张以智能体经济管理自主科学发现的验证资源、信用、问责与安全,而非只提升推理。

    作者把高自主 AI scientist 的规模化协调写成经济与制度问题:假设生成变便宜之后,要分配的是稀缺验证资源,并处理信用、问责和恶意使用。

    深度解读完整解读
  3. 超越最终决策:面向透明 AI 辅助同行评审的流程中心基准

    提出过程中心基准,检验 AI 辅助评审终审是否被中间证据支撑

    发表
    测试
    Qwen2.5-7B-Instruct、Qwen2.5-14B-Instruct、Llama-3.1-8B-Instruct 等 6 个
    摘要过程基准显示人工对齐变量更有决策价值,模型中间文本并未稳定支撑终审。

    该基准用来检查 AI 辅助同行评审的中间证据是否支撑最终决策,而不是只看终审对错。。

    深度解读完整解读
  4. 评测与基准arXiv 2607.27499

    研究者发布概念性论证评分数据集,含 951 条论证与 1458 条专家评分

    发布概念论证评分数据集并评测模型对批判的排序

    发表
    测试
    gpt-5-2025-08-07、o3-pro-2025-06-10、o3-2025-04-16 等 15 个
    摘要作者构建概念性批判评分集。

    作者做了一份专家多维评分的概念性论证批判数据,用来在没有标准答案时比较模型的论证判断。

    深度解读完整解读
  5. 分析与理论arXiv 2608.16578

    研究用统计力学预测 AI 智能体群体的集体行为

    用扩展 Ising 模型预测语言模型智能体的集体意见演化

    发表
    测试
    GPT-4o-mini、Gemma-3n-E4B-it、Qwen3.5-9B 等 6 个
    摘要统计力学三耦合模型从初始意见预测智能体社群轨迹,并解释 conviction、共识与客观题求真。

    定位:用统计力学描述语言模型智能体社群的意见动力学,并从初始意见预测后续轨迹。

    深度解读完整解读
  6. 其他arXiv 2609.10630

    论文提出 AI 安全设计保障架构:结合 Scientist AI 模型级监督与系统级控制

    提出结合模型级监督与系统级控制的智能体保障架构

    发表
    场景
    AI Agent
    摘要作者梳理事件中的多层失效,主张监督模型、系统控制与证据治理并用。

    Lu 与 Bengio 给出的是一套可逐层上移的保障架构和一组事件归类,不是已测量的防御系统。

    深度解读完整解读
  7. 其他arXiv 2610.01005

    基于容忍度的公平性审计:违规认证与敏感性筛查

    提出容忍度公平性审计,用 CEL 认证违规并用 SEL 筛查

    发表
    测试
    COMPAS
    摘要容忍阈值下,CEL 做违规认证,SEL 与 ASEL 做更敏感的筛查。

    这篇工作给出一套按审计目标切换校准的容忍公平审计:差异不必为零,而是看预先指定的不利方向上是否超过允许阈值。

    深度解读完整解读
  8. 其他arXiv 2609.36054

    多作者论文评估 AI 研发自动化触发智能爆炸的可能与政策应对

    评估自动化 AI 研发触发智能爆炸的可能并主张先可见再约束与适应

    发表
    摘要软件驱动智能爆炸可能把数年进展压进数月,作者要求三项政策先做好。

    Chan 等论证:自动化 AI 研发可能经软件反馈环形成智能爆炸,把本需数年的进展压进数月或更短。他们关心的不是换硬件的建设周期,而是 AI 扩大有效研发劳动力、再产出更强系统,以及社会能否在能力跃迁前看见、约束并适应这一过程。

    深度解读完整解读
  9. 评测与基准arXiv 2609.24934

    谁的事实才算数?对 LLM 评测基准的文化响应性审计

    用六维 CR 量表审计 LLM 评测基准的文化响应性

    发表
    测试
    GPT-4.1-mini、GPT-5.6-Terra
    摘要审计认为两套基准把特定认识论写成事实与质量标准,并提出六条 CR 原则。

    作者用文化回应性评价审计 SimpleQA 和 Chatbot Arena,追问定义事实与质量的基准对谁有效。

    深度解读完整解读
  10. 其他arXiv 2610.00093

    自我演化智能体的安全性综述:SAVER 过渡中心框架

    提出 SAVER 框架综述自演化智能体的安全状态转移

    发表
    场景
    AI Agent
    摘要SAVER 用状态转移追踪自演化安全:合法状态可经复用变不安全,后代修复证据仍少。

    SAVER 是一篇关于自演化智能体安全的转移中心综述:安全对象从单次回答或单次授权动作,转到可复用状态在多次转移中的谱系。

    深度解读完整解读