事件历史事件
论文：完全透明LLM未必更安全可信
先了解这件事
AI 综述
一篇arXiv论文论证，完全透明的LLM并不必然更安全可信：训练流程可复现性有限，用户无法验证开放权重与配套数据、流程是否对应，信任模型仍需信任开发者；即使模型透明可信，开放也可能有利于攻击者，开放权重尤其会提高攻击成功率；同类机制虽可用于改进模型与防御，但目前缺乏可靠的轻量级LLM漏洞修补手段。
AI 根据报道生成 · 17 天前更新
走势与进展
每小时关注度
现在 32，24 小时 0%·峰值 32（11月7日 01:00）
11月8日11月9日11月10日11月11日11月12日11月13日11月14日现在 32
相关研究
这件事的论文
- 开放会过于开放吗？论完全透明 LLM 的安全与可信性
arXiv · 2026-10-26
后续时间线
10月26日
- arXiv开放会过于开放吗？论完全透明 LLM 的安全与可信性
论文论证完全透明的大语言模型并不必然更安全可信。作者梳理相关文献指出，由于 LLM 训练流程的可复现性有限，用户实际无法验证开放权重与配套的开放数据和训练流程是否对应，信任模型仍需信任开发者诚实行事，透明带来的收益因此受限。论文还发现，即使模型完全透明且可信，开放本身也可能有利于攻击者，开放权重尤其会提高攻击成功率，开放数据和流程也有类似作用。同样的机制虽可用于改进模型和防御攻击，但目前缺乏可靠的轻量级机制来修补 LLM 漏洞，限制了开放当下的好处。作者注明该分析基于当前的 LLM 能力和分析工具，未来发展可能需要重新评估这些结论。