基于大语言模型的抗幻觉安全规划

Kim Hammar 等研究者提出用大语言模型辅助安全管理决策的框架，通过一致性阈值控制模型幻觉风险。框架让模型在迭代循环中生成候选动作，检查其与系统约束和前瞻预测的一致性；一致性低时弃用生成结果，转而收集外部反馈，例如在数字孪生中评估动作，再通过上下文学习（ICL）修正候选动作。作者证明该设计可通过调节一致性阈值控制幻觉风险，并在一定假设下给出 ICL 的遗憾界。在基于系统日志生成事件响应与恢复计划的用例中，四个公开数据集上的实验显示，该框架相比前沿大语言模型将恢复时间最多缩短 30%。