跳到正文
10月10日 · 周六

全部论文

找到 11 篇

另有 194 篇论文还没打上分类标签,暂不在筛选结果里。

  1. 其他arXiv 2610.10064

    研究者提出理解审计机制,以缓解自动化 AI 研究带来的风险

    提出 comprehension audits,以人类理解证据作为继续研发门槛

    发表
    摘要理解审计把出示人类理解设为继续研发的门禁,并报告开源评审评论率下降。

    本文是一份研发过程保障提案:用 comprehension audits 检验责任人是否理解 AI 参与产生的研发贡献,未达标就暂停后续开发与依赖该贡献的发布。。

    深度解读完整解读
  2. 其他arXiv 2609.36054

    多作者论文评估 AI 研发自动化触发智能爆炸的可能与政策应对

    评估自动化 AI 研发触发智能爆炸的可能并提出政策应对

    发表
    摘要软件驱动智能爆炸可能把数年进展压进数月,作者要求三项政策先做好。

    Chan 等论证:自动化 AI 研发可能经软件反馈环形成智能爆炸,把本需数年的进展压进数月或更短。他们关心的不是换硬件的建设周期,而是 AI 扩大有效研发劳动力、再产出更强系统,以及社会能否在能力跃迁前看见、约束并适应这一过程。

    深度解读完整解读
  3. 其他arXiv 2609.31562

    面向自主科学发现的智能体经济基础设施

    勾勒科学智能体经济以协调验证、信用与安全

    发表
    摘要作者主张以智能体经济管理自主科学发现的验证资源、信用、问责与安全,而非只提升推理。

    作者把高自主 AI scientist 的规模化协调写成经济与制度问题:假设生成变便宜之后,要分配的是稀缺验证资源,并处理信用、问责和恶意使用。

    深度解读完整解读
  4. 其他arXiv 2609.26457

    Weco AI 提出 AIDE2:AI 研究智能体递归自我改进 8 天获七次提升

    提出双层系统 AIDE2,使研究智能体自改进 Harness 并对比人类研发基线

    发表
    被测模型
    gemini 3 flash、gpt-5.6-sol、fable 5

    摘要提出双层递归自改进系统 AIDE2,在固定预算下演化 Harness 代码,多项留出基准超越人类基线并降低奖励黑客。

    深度解读完整解读
  5. 其他arXiv 2609.19399

    RWPS:面向网络安全博弈的高效纳什均衡计算

    提出 RWPS,在固定仿真预算下估计安全博弈收益并求均衡

    发表
    摘要RWPS 用历史代理和均衡加权采样估计安全博弈收益,并给出按支撑加权的遗憾界。

    Lanier、Farmer 与 Vorobeychik 研究仿真型网络安全博弈中,如何在远小于全矩阵的仿真预算下计算可利用性较低的均衡。。收益没有闭式,PSRO 扩大攻防策略池时必须估计每一对的收益,仿真次数随池二次增长。

    深度解读完整解读
  6. 其他arXiv 2609.10144

    AIOS 的内核管理共享内存:面向系统级个性化的新抽象

    提出内核管理共享记忆抽象,统一多智能体的检索、隐私过滤与注入

    发表
    被测模型
    GPT-4o、Llama-3.1:8B、Qwen-2.5:7B
    摘要作者称内核集中管理记忆,能拿到无约束上下文的大部分个性化收益,并降低延迟。

    kernel-managed shared memory 把多智能体的检索、隐私和注入收进 agent-system kernel,并在 AIOS 上与三种替代方案比较。

    深度解读完整解读
  7. 其他arXiv 2402.04247

    论文探讨 AI 科学家的风险:应优先保障安全而非自主性

    梳理 AI 科学家的风险并主张三元防护框架

    发表
    摘要作者主张防护优先于自主性,用三元框架把输出安全扩展到行为与环境反馈。

    这是一篇关于 LLM 驱动 AI scientists 的 perspective:自主科研能力增强时,误用和意外后果缺少科学情境下的系统防护。

    深度解读完整解读
已经到底了