摘要商用推理时治理底座已较常见,对高能力非合作对手的覆盖更薄。
本文是一份推理时 AI 治理的可行性分类,用来接上作者自己的硬件层分类。
本文是一份推理时 AI 治理的可行性分类,用来接上作者自己的硬件层分类。
提出 ClawSentry 渐进式多层监控网关,拦截恶意技能包与上下文注入
ClawSentry 是挂在智能体运行时之外的安全监督网关,用来同时盖住 skill 执行的多个生命周期边界,并把已被拒绝的效果记到会话里。
提出端到端全同态加密方案 ODIN,在云端密文上完成推理以保护提示词
ODIN 是面向 Llama 的服务器侧 CKKS 推理系统:客户加密提示词,诚实但好奇的服务器用明文权重在密文上算完 Llama-3,只返回结果密文。