Toolformer：语言模型能自学使用工具

Schick 等人的 Toolformer 让 GPT-J 6.7B 自行为文本生成 API 调用标注，只保留能降低后续 token 困惑度的调用，从而学会使用计算器、Wikipedia 搜索等五种工具，并在与工具相关的任务上超过 GPT-J 与 GPT-3 175B。作者称，模型由此从被动文本生成转向自主调用工具，安全焦点也从内容生成转向行动安全。