权重空间编程能否改变模型习得的伦理优先级?
Can Weight-Space Programming Alter Learned Ethical Priorities?
AI 导读
作者研究权重编辑能否改变模型在信守承诺与让更多人受益之间的权衡。在一个带概念监督的文本模型中,作者调整拟合出的选择权重,使推翻正式承诺所需的收益高于推翻普通承诺。在六个独立训练的文本读取器上,该编辑在两种顺序下对目标普通冲突和目标正式冲突分别以 100% 和 83.3% 选出人数更多的一方,同时保持源模型在较小冲突上的成功率和事实准确性,剩余的正式冲突失败与读取受益人数字出错同时发生。在 COCO128 上对 YOLO11n 的试点中,偏置编辑把小目标匹配从 3/43 提高到 9/43,等效的分数校准复现了保留的检测结果。作者称这些探索性结果展示了在暴露权衡机制的模型中测试习得优先级选择性改动的一条途径,该方法能否在结构化程度更低的语言模型中发现此类改动仍是开放问题。