每日新闻 / 2026-06-16

Chain-of-Thought 提示技术深度指南:让模型把推理过程说清楚

XycAi
Chain-of-Thought 提示技术深度指南:让模型把推理过程说清楚

很多人第一次接触 chain of thought 提示,是因为模型在某道逻辑题上给出了一个自信的错误答案。加上一句"请一步一步思考",同样的问题却答对了。这个反差足够让人停下来认真研究:模型到底在做什么,这句话又为什么有效?

本文的目标是把 CoT 相关技术讲清楚:原理是什么、三种主流变体各自适合哪类任务、以及你可以直接复制粘贴的提示模板。

为什么"展示推理过程"能提升准确率

语言模型在自回归生成时,每个 token 的预测依赖之前的上下文。当你直接问"如果 A > B,B > C,A 和 C 谁大",模型从问题跳到答案只有一步,中间没有任何"草稿空间"。但如果模型先输出"A > B,B > C,所以 A > C,答案是 A",这段推理链本身就成了后续 token 的上下文——相当于给模型提供了一块工作内存。

Google 2022 年发布的原始 CoT 论文(Wei et al.)在 GSM8K 数学题集上测出:标准 few-shot 提示准确率约 17%,加入思维链后跳到 56%。这个数字在今天的 GPT-5.5、Claude Opus 4.8 上已经翻了好几倍,但 CoT 带来的相对提升比例依然稳定存在,尤其在推理密集型任务上。

三种变体的核心差异

标准 CoT(Few-Shot CoT)

原始形态:在提示里放 3-8 条带有完整推理过程的示例,模型从示例中学会"先推理再回答"的格式。

适用场景:数学文字题、逻辑推断、代码调试;问题类型固定、可以准备高质量示例的场景。

代价:每次请求需要携带大量示例文本,消耗 token 多,成本高。如果你用的是 GPT-5.5 或 Claude Sonnet 4.6 这种按 token 计费的模型,few-shot CoT 在高并发场景下成本压力明显。

模板

以下是解题示例:

问题:小明有 12 个苹果,给了小红 1/3,自己又买了 5 个,现在有多少个?
推理:12 × 1/3 = 4,小明给出 4 个,剩 8 个;8 + 5 = 13。
答案:13 个。

---
现在请解答:
问题:{{用户问题}}
推理:

Zero-Shot CoT

Kojima et al. 在 2022 年发现,只需在问题末尾加上 "Let's think step by step"(或中文"让我们一步一步思考"),模型就能自发展开推理,不需要任何示例。

这个发现的意义在于:few-shot 示例的质量直接影响结果,而 zero-shot CoT 把这个负担转移给了模型本身。在 GPT-5.4、Claude Haiku 4.5 这类经过大量 CoT 数据训练的模型上,zero-shot CoT 的效果已经非常接近 few-shot,但 token 消耗少得多。

适用场景:问题类型多样、无法提前准备示例;原型验证阶段;用轻量模型(Haiku 4.5、GPT-5.4-mini)处理中等难度推理。

模板

{{问题}}

在给出最终答案之前,请一步一步拆解你的推理过程,每一步单独一行。

一个细节:末尾加 每一步单独一行 比单纯的"step by step"更能让模型输出结构化的推理,方便后续解析。

Tree of Thought(ToT)

ToT 是 2023 年 Princeton + Google 提出的扩展框架,核心思路是把单链推理变成多分支搜索:模型同时探索多条推理路径,每条路径独立评估,最终取最优解。

实现方式有两种: - 提示层模拟:在单次请求里让模型生成多个"候选思路"并自我评分 - 多次调用编排:通过代码控制多轮对话,每轮生成一个分支,外部逻辑做剪枝

适用场景:创意写作中的情节规划、复杂编程问题的方案选择、需要探索多种假设的研究型问答。对于有标准答案的数学题,ToT 的收益不大;对于解空间广、需要权衡的决策类问题,ToT 的优势明显。

简化版单提示模板

这是一个需要深度思考的问题:{{问题}}

请按以下步骤处理:
1. 列出 3 条不同的解题思路(每条 2-3 句话概述)
2. 对每条思路打分(0-10),说明优缺点
3. 选择得分最高的思路,展开完整推理
4. 给出最终答案

三种技术横向对比

维度 Few-Shot CoT Zero-Shot CoT Tree of Thought
准备成本 高(需要写示例) 中-高(需设计分支逻辑)
Token 消耗 低-中
适合任务类型 结构化、有标准答案 通用 开放式、多解
对模型能力要求 低(示例主导) 中-高
实现复杂度 最低

在实际工程里,最常见的选择逻辑是:先用 zero-shot CoT 快速验证,如果准确率不够再切 few-shot CoT,只有当问题本身需要探索多解时才引入 ToT。

工程落地的几个细节

强制输出格式:在生产环境中,推理过程往往需要解析。加上 请用 <thinking>...</thinking> 包裹推理过程,用 <answer>...</answer> 包裹最终答案 能显著降低后处理难度。Claude Opus 4.8 和 GPT-5.5 都能很好地遵守这类结构化指令。

推理模型 vs. 提示 CoT:当前有一类模型(如 DeepSeek R1、o 系列)在推理阶段内置了 CoT 机制,输出前会做大量内部"思考"。对这类模型,外部加 "step by step" 提示有时反而干扰其内置流程,需要测试对比。

温度参数:CoT 任务通常建议 temperature 设在 0-0.3,减少推理链中的随机跳跃。ToT 的分支生成阶段可以适当提高到 0.7,增加思路多样性。

验证推理链:模型可能生成"听起来正确"但实际有误的推理链(即幻觉推理)。在数学或代码任务上,建议在推理结束后加一步 请检查上述每一步是否有逻辑跳跃或计算错误,让模型自我校验。


把 chain of thought 提示用好,本质上是在跟模型协商"怎么分配计算资源"——把更多 token 预算放在中间过程而不是直接跳结论。如果你在测试这些模板时需要同时跑 Claude Opus 4.8、GPT-5.5 和 DeepSeek R1 做横向对比,我一直在用 XycAi 词元平台,一个 API 接 200+ 模型,官方模型价格低至官方价 1.4 折起,支持 Claude Code 和 Codex 一键接入,省去多账号管理的麻烦,跑对比实验很方便。

一个 API 接入 200+ 全球 AI 模型

GPT · Claude · Gemini 官方模型低至 1.4 折起,持大模型算法备案号,CN2 直连低至 5ms,可开全球合规发票。

立即体验 XycAi →