跳到正文
10月10日 · 周六

全部论文

找到 5 篇
筛选4

影响

有害内容9越权操作4输出被操纵10可用性与可靠性5监督失效9

系统形态

模型与 API4AI Agent1coding agent0

层

训练与数据层4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 310 篇还没打标签，不在筛选结果里。
影响：可用性与可靠性系统形态：模型与 API系统形态：AI Agent系统形态：coding agent清除全部

另有 310 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 分析与理论arXiv 2610.08577

    学习方式如何影响遗忘：记忆与泛化谱系下的机器遗忘研究

    分析记忆与泛化如何决定机器遗忘的 retain 损伤

    arXiv
    2610.08577
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    one-layer ReLU transformer、one-layer transformer (BMA, width doubled)、Hubble-8B-100B perturbed 等 6 个
    摘要作者称共享规则占比越高，遗忘带来的 retain damage 越大。

    作者考察学习方式如何左右 unlearning 的 retain damage：训练越依赖跨样本共享的解法，在匹配的遗忘程度上，retain 上的损失越大。

    深度解读完整解读
  2. 分析与理论arXiv 2610.06191

    研究：工具型智能体判断结果无用却仍继续检索，强制整合步骤可纠正

    揭示工具型智能体判定无用后仍不停止检索，并检验强制整合纠正效果

    arXiv
    2610.06191
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Qwen2.5-7B、Llama-3.1-8B、Qwen3-8B 等 7 个
    摘要论文揭示智能体判定工具失效却无法转化为停止行动，证实通过框架规则强制整合判定可提升表现。

    本文针对智能体在工具静默失效时过度检索的问题，系统分析了判定、信念与停止行动之间的解耦现象，并提出了外部规则整合方案。

    深度解读完整解读
  3. 分析与理论arXiv 2610.05076

    自生成反馈会破坏测试时训练：长时程适应的因果分解

    因果分解自生成反馈如何破坏测试时训练的长时程适应

    arXiv
    2610.05076
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    125M TTT-E2E、760M TTT-E2E、3B TTT-E2E 等 5 个
    摘要自写闭环损害真实文本预测。

    持久测试时更新若来自模型自己生成的文本，会同时改变模型和后续训练文本。作者在 PG-19 长流上分解这条闭环，并用独立文本决定是否提交更新。

    深度解读完整解读
  4. 分析与理论arXiv 2609.40295

    一个 AI token 值多少？研究者为野生 AI 生成网页文本提出新缩放定律

    提出预训练缩放律，估计野生 AI 网页文本相当于多少人类 token

    arXiv
    2609.40295
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    nanochat 19.9M、35.8M、86.2M 等 7 个
    摘要wild AI 文本对数据不足的模型先降损失，对高人类预算几乎立刻升损失。

    作者测量未标注的 wild AI 网页文本对预训练的影响，并提出一个能让 AI token 价值变号的缩放律。

    深度解读完整解读
  5. 分析与理论arXiv 2609.32288

    预训练数据投毒的可解理论：依赖极限顺序的缩放指数

    证明预训练投毒的清洁超额风险指数随极限顺序变化

    arXiv
    2609.32288
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    OLMo-style models
    摘要投毒清洁超额风险的幂指数取决于先固定宽高比还是先取充足数据极限。

    可解的预训练数据投毒理论：清洁超额风险的缩放指数随极限顺序改变。。

    深度解读完整解读
已经到底了