论文笔记 CoT：提示+推理+大模型=思维链提示

Chain-of-Thought Prompting Elicits Reasoning in Large Language Models

来源 Google Brain

论文：Chain-of-Thought Prompting Elicits Reasoning in Large Language Models

一、摘要

本文探讨了生成思想链一系列中间推理步骤如何显著提高大型语言模型执行复杂推理的能力。特别是，我们展示了这种推理能力是如何通过一种称为思维链提示的简单方法在足够大的语言模型中自然出现的，其中提供了一些思维链演示作为提示的示例。

在三个大型语言模型上的实验表明，思维链提示可以提高一系列算术、常识和符号推理任务的性能。经验上的收益可能是惊人的。例如，提示一个只有八个思维链样本的PaLM 540B在GSM8K数学单词问题基准上实现了最先进的准确性，甚至超过了带有验证器的微调GPT-3。

二、介绍

在本文中，我们结合了提示学习，常识推理这两种想法的优势，避免了它们的局限性。具体来说，我们探索了语言模型在给定由三元组组成的提示（〈输入，思想链，输出〉）的情况下，对推理任务执行少量提示的能力。思维链是一系列中间的自然语言推理步骤，这些步骤会导致最终的输出，我们将这种方法称为思维链提示。

如图1所示。我们对算术、常识和符号推理基准进行了实证评估，表明思维链提示优于标准提示，有时甚至达到了惊人的程度。