跳到正文
10月8日 · 周四

开源模型安全 · 论文

找到 5 篇
筛选2

攻击类型

模型篡改1

模型自身风险

拒答失当1

影响

有害内容1输出被操纵1可用性与可靠性1

系统形态

模型与 API5

攻击面/入口

权重与梯度1分发渠道1

层

提示层1模型层5训练与数据层4

系统组件

护栏与评审1推理链1微调与开源权重1

被测模型厂商

其他5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 85 篇还没打标签，不在筛选结果里。
层：提示层层：训练与数据层话题：开源模型安全清除全部

另有 85 篇论文还没打上分类标签，暂不在筛选结果里。

  4. 分析与理论arXiv:2609.40295 ·

    一个 AI token 值多少？研究者为野生 AI 生成网页文本提出新缩放定律

    提出预训练缩放律，估计野生 AI 网页文本相当于多少人类 token

    模型与 API测试nanochat 19.9M、35.8M、86.2M 等 7 个训练与数据层
    摘要wild AI 文本对数据不足的模型先降损失，对高人类预算几乎立刻升损失。

    作者测量未标注的 wild AI 网页文本对预训练的影响，并提出一个能让 AI token 价值变号的缩放律。

    完整解读
已经到底了