代码合成大语言模型的危害分析框架
A Hazard Analysis Framework for Code Synthesis Large Language Models
AI 导读
OpenAI 研究者提出一套危害分析框架，用于揭示 Codex 这类代码合成大语言模型在部署后可能带来的技术、社会、政治和经济层面的安全风险。论文指出，能大规模生成代码的模型存在明显局限、对齐问题和被滥用的可能。框架配套一个新的评估方法，衡量先进代码生成技术应对不同复杂度与表达力规格提示词的能力，以及其理解与执行这些提示词的水平相对人类能力的差距。