Anthropic 可解释性团队月度更新：特征与大语言模型的上下文学习

Anthropic 可解释性团队在月度更新中报告了一项初步实验：他们重新审视此前《On the Biology of a Large Language Model》的语言表征相似度结果，发现在配对英法文本中，活跃特征的交并比（IoU）随样本变长而升高。通过对比同一段落首尾句以及互不相关语句的基线，结果显示末句 IoU 高于首句、无关首句重叠多于无关末句，倾向于说明该效应来自模型在上下文中逐步建立更充分的语义表征，而非虚假激活所致。