ICX360：面向大语言模型上下文可解释性的开源工具包

研究者推出 ICX360，一个用于解释大语言模型输出的开源 Python 工具包，重点是解释输入给模型的用户上下文或提示词。工具包实现了三种近期的解释工具，涵盖基于扰动的黑盒方法和基于梯度的白盒方法，代码开源于 https://github.com/IBM/ICX360。工具包附有快速上手材料和详细教程，用例包括检索增强生成、自然语言生成和越狱。