vLLM Semantic Router / KR Labs 发布 Vela 2.0 开源路由与护栏模型族

vLLM Semantic Router 与 KR Labs 发布 Vela 2.0 开源模型族，含 0.3B、0.8B、4B、9B 四个尺寸，用于路由、安全检查和 span 级决策，权重与代码以 Apache-2.0 发布。模型在请求时接收选项、标签和评分标准，返回带概率与字符偏移的结构化答案，一次调用可同时处理路由、安全、PII 和幻觉问题。官方称 9B 在未见攻击家族的提示攻击检测上达到 0.989 AUC，高于 Vela 1.0 Guard 的 0.792；多语言仇恨言论 0.855 AUC，高于 0.646。0.3B 可在 CPU 运行，A40 上单次完整路由请求耗时 0.09 秒，9B 为 0.60 至 0.71 秒。