Musubi 开源内容审核决策模型 PolicyLM-1.7B
先了解这件事
Musubi Labs 发布并开源 PolicyLM-1.7B 内容审核决策模型，权重以 Apache 2.0 协议公开。该模型面向信任与安全团队，读取平台自定义策略与消息，一次前向返回每个类别的 0-1 分数，不生成文本，支持多标签与自定义标签，策略修改即时生效且无需重训。据 Musubi Labs，模型在 24 GB L4 上处理短聊天消息中位延迟 35 ms、整体低于 100 ms；TechCrunch AI 报道称其可将纯英文撰写的内容政策直接用于消息审核，单条判定低于 50 毫秒，输出为二元判断。
AI 根据报道生成 · 1 天前更新
后续时间线
- TechCrunch AIMusubi 的 PolicyLM-1.7B 决策模型如何改变内容审核
Musubi 发布开源权重决策模型 PolicyLM-1.7B，可将纯英文撰写的内容政策直接应用于消息审核，单条判定耗时低于 50 毫秒。该模型成本与速度接近主流社交平台的 AI 分类器，但具备现代 LLM 的灵活性，无需专门训练即可执行复杂政策，且政策变更后无需重新训练。其输出为二元判断，即内容是否属于某一类别。
- Musubi LabsMusubi Labs 开源 PolicyLM-1.7B 内容审核决策模型
Musubi Labs 发布 PolicyLM-1.7B，一个面向信任与安全团队的内容审核决策模型，以 Apache 2.0 开源权重发布。它读取平台自定义策略与消息，一次前向返回每个类别的 0-1 分数，不生成文本，在 24 GB L4 上短聊天消息中位延迟 35 ms、整体低于 100 ms，支持多标签与自定义标签，策略修改即时生效且无需重训。模型基于 Qwen3-1.7B-Base 衍生的 BidirLM-1.7B-Embedding，用 NVIDIA Nemotron Safety Guard Dataset v3、阿里 XGuard-Train-Open-200K 和 PolyGuardMix 等公开数据训练，在 19 种语言上评估，英语最强、泰米尔语最弱。作者称其在自建策略基准上优于所有 20B 参数以下的对比模型，并已有一个微调版本运行在日处理超百万条消息的平台上。
相关讨论
关注度走势
每天新增来源
- 10月7日新增2个来源（2家媒体、0个账号）
- 10月8日新增0个来源（0家媒体、0个账号）
- 10月9日新增0个来源（0家媒体、0个账号）
- 10月10日新增0个来源（0家媒体、0个账号）
- 10月11日新增0个来源（0家媒体、0个账号）
- 10月12日新增0个来源（0家媒体、0个账号）