跳到正文

#其他

今天还没有收录新动态
10月1日周四
  1. arXiv ·

    MEND:世界模型中潜在幻觉的无标签检测、定位与纠正

    研究提出 MEND(Masked Empirical-Bayes Neural Denoising),一种在冻结的自监督世界模型上、无需真实误差标签即可在推理时检测、定位并纠正潜在幻觉的方法。该方法用去噪分数匹配在真实状态转移上训练单个条件分数网络,其分数场同时承担检测、逐 token 定位与纠正方向三种角色。在两个导航环境中,MEND 不使用动作即达到最高 0.80 的 AUROC,逐 token AUPRC 最高 0.87,并可靠降低单步潜在误差、改善预测;作者指出部分误差与数据流形相切,因此重点放在检测与定位,纠正仍有待进一步验证。

9月22日周二
9月18日周五
  1. AI Frontiers ·

    《A Philosopher's Guide to AI Welfare》:NYU 报告提出应分别研究 AI 的意识、感受性与能动性

    NYU 心智、伦理与政策中心与 Eleos AI Research 联合发布《Studying AI Welfare Empirically》报告,指出意识、感受性和能动性在生物体中常同时出现,但在 AI 系统中可能彼此分离甚至分布在不同部分,因此需要对每种能力单独实证研究并准备应对意外组合。Jeff Sebo 强调,行为证据面临错配问题——相似行为可能有不同内部成因,尤其当系统被训练模仿人类行为或学会钻营行为评估时。

9月8日周二
  1. arXiv:可解释性 ·

    医学 AI 编码“错误感”:用内部概念验证癌症分割

    癌症分割模型会静默失败,生成看似合理却错误的掩膜。研究用稀疏自编码器(Sparse Autoencoders)将模型内部激活分解为可解释概念,发现失败案例的潜在特征为活跃概念更少、激活幅度更低,据此训练分类器实现失败检测并给出错误解释。在前列腺癌、胰腺癌和脑癌分割实验中,该方法在保持分割质量的同时,失败检测表现优于基于输出的方法。

7月31日周五
  1. Failure-First ·

    RS-Diffuser:面向离线强化学习的风险敏感扩散规划

    RS-Diffuser 将扩散规划器与分布式价值评论家结合,通过调整推理时的风险参数 α 即可切换规避、中性或寻求风险的轨迹,无需重新训练。该方法用分位数回归估计回报分布并做蒙特卡洛监督以避免 bootstrap 不稳定,在两个基准上验证尾部风险场景下的表现。 RS-Diffuser 由三部分构成:仅建模状态演化的扩散规划器负责预测未来状态轨迹,逆动力学模型将状态转移解码为动作以保证稳定恢复,蒙特卡洛分布式评论家用 Quantile Huber Loss 拟合完整回报分布。其引导目标基于分位数的索引集定义两种风险偏好——CVaR 式的下尾目标最大化最差结果的均值,上尾目标则鼓励高方差高回报路径。

4月23日周四
  1. Goodfire Research ·

    Goodfire 用自校正搜索加速材料发现,将扩散模型的候选材料产出提升约 30%

    Goodfire 与 Radical AI 合作,通过给扩散模型加入基于其内部表征的反馈回路实现自校正搜索,使目标范围内可用候选材料的生成量提高约 30%。该方法针对 MatterGen 的条件生成流程改进逆设计环节,衡量指标为同时满足稳定、独特和新颖三个约束的 SUN 标准。现有基线中仅 15% 的 MatterGen 采样落在 4–6 eV 带隙目标区间内,若再叠加 SUN 过滤则降至 6.5%,且仅有约 10% 的微调候选能通过全部筛选阶段。该技术原则上适用于任意扩散模型,有望推广到蛋白质设计与药物发现等领域。

已经到底了