迈向无风险的开放权重模型：分离大语言模型中的公开与私有能力
[Daily Paper] Toward Open Weight Models Without Risks: Separating Public and Private Capabilities in Large Language Models
AI summary
论文提出在开放权重模型中分离公开与私有能力，通过定向微调抑制生物武器合成等危险知识，使其无法经提示词调用，但仍可由有权限的研究者微调恢复。论文称这种抑制不会显著削弱通用能力，把对齐与能力的权衡从输出层面移到能力层面。该框架要求两级访问模式，公众只能通过提示词使用，研究者可访问权重，而现有开源分发渠道并不支持，论文为此提出治理机制。