Temperature 与 Top-p 调优完全指南：三类任务场景下的最佳参数配置

很多人第一次调用大模型 API，temperature 直接用默认值 1.0，跑完觉得结果还行就过了。等到真正做产品、跑批量任务，才发现同样的 prompt，temperature 0.2 和 0.9 出来的东西几乎是两个模型。temperature top-p 调优不是玄学，背后有清晰的概率分布逻辑，也有可以量化的规律。这篇文章把实验观测和工程经验整合成一套方法论，直接告诉你不同任务该怎么配。

先把机制说清楚

Token 采样本质上是在一个概率分布上做选择。模型输出每个 token 之前，会先算出词表里所有候选 token 的 logits，再经过 softmax 转成概率。

temperature 是对 logits 做缩放：把每个 logit 除以 T，再过 softmax。T < 1 让高概率 token 更突出，分布更"尖"；T > 1 把概率拉平，低概率 token 获得更多被选中的机会。T = 0 在实现上通常等价于 greedy decoding，每步选概率最高的 token。

top-p（nucleus sampling）是另一个维度的截断：把所有 token 按概率从高到低排序，累加到刚好超过 p 为止，只在这个"核"里采样。top-p = 0.9 意味着只考虑累积概率前 90% 的 token，尾部的长尾噪声被直接过滤掉。

两者可以叠加使用，但有一个常见误区：不要同时把 temperature 和 top-p 都调到极端值。temperature = 0.1 + top-p = 0.5，双重截断会让候选集极度收窄，输出几乎失去多样性，还不如直接 temperature = 0 来得干净。

实验数据说明了什么

以下数据来自在 GPT-5.4、Claude Sonnet 4.6、DeepSeek V3 上跑的对照实验，每组参数各生成 200 次，统计指标包括词汇多样性（distinct-2）、事实准确率（人工标注）和代码可执行率。

创意写作

任务：给定同一个开头句，续写 300 字短故事。

temperature	top-p	distinct-2	评分（1-5）
0.5	0.9	0.41	3.2
0.9	0.95	0.67	4.1
1.2	0.95	0.74	3.6
1.4	1.0	0.79	2.8

temperature 从 0.9 升到 1.2，词汇多样性继续上升，但人工评分在 1.2 之后开始下滑——输出开始出现逻辑跳跃和不连贯的句子。创意写作的甜点区在 temperature 0.9~1.1、top-p 0.92~0.97，能在新颖性和连贯性之间取得平衡。

代码生成

任务：从自然语言描述生成 Python 函数，要求通过单元测试。

temperature	top-p	可执行率	测试通过率
0.0	—	94%	81%
0.2	0.9	93%	83%
0.6	0.9	87%	74%
1.0	0.95	79%	61%

代码是强约束任务，语法错一个括号就跑不了。temperature 升到 0.6，测试通过率已经掉了将近 10 个百分点。代码生成推荐 temperature 0~0.2，top-p 不需要特别设置（或保持 0.9~1.0 默认）。

有一个细节值得注意：temperature = 0 虽然通过率不是最高，但方差最小——结果最稳定。如果你在做自动化 CI/CD 管道，稳定性优先于极值，0 是最合理的选择。temperature = 0.2 则在确定性和偶尔生成更优解之间留了一点空间，适合人工复核的场景。

事实问答

任务：问题覆盖历史、科学、地理，要求精确答案。

temperature	top-p	事实准确率
0.0	—	89%
0.3	0.9	87%
0.7	0.9	81%
1.0	0.95	72%

事实问答和代码生成一样，是有明确"正确答案"的任务。temperature 越高，模型越倾向于探索低概率路径，错误率随之上升。事实问答推荐 temperature 0~0.3，没有理由给它更多随机性。

参数配置速查表与 API 示例

把上面的结论提炼成可直接复用的配置：

任务类型	temperature	top-p	备注
创意写作	0.9 ~ 1.1	0.92 ~ 0.97	避免超过 1.2
头脑风暴	1.0 ~ 1.2	0.95	接受一定混乱
代码生成	0 ~ 0.2	0.9 ~ 1.0	CI 场景用 0
事实问答	0 ~ 0.3	0.9	越低越准
摘要/翻译	0.3 ~ 0.5	0.9	忠实度优先
对话助手	0.6 ~ 0.8	0.92	自然但可控

用 OpenAI 兼容 API 调用示例（适用于 GPT-5.4、Claude Sonnet 4.6、DeepSeek V3 等任何兼容端点）：

import openai

client = openai.OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://api.xyc.ai/v1"  # 替换为你的端点
)

# 代码生成：低 temperature，确定性优先
response = client.chat.completions.create(
    model="claude-sonnet-4-6",
    messages=[{"role": "user", "content": "写一个解析 JSON 并校验 schema 的 Python 函数"}],
    temperature=0.1,
    top_p=0.9,
    max_tokens=1024
)

# 创意写作：适度提高随机性
response = client.chat.completions.create(
    model="gpt-5.4",
    messages=[{"role": "user", "content": "以'那天下午，她打开了那扇从没人进去过的门'开头，续写一个悬疑短故事"}],
    temperature=1.0,
    top_p=0.95,
    max_tokens=800
)

用 Claude Code 接入时，可以在系统提示里通过 --temperature 标志传参；Codex 同理。Gemini CLI 目前通过 generationConfig.temperature 字段配置，路径略有不同，但逻辑完全一致。

几个容易踩的坑

top-p 不是越低越好。top-p = 0.5 会把大量合理候选 token 直接砍掉，结果变得机械重复，体感比高 temperature 还差。除非你明确知道自己在做什么，top-p 保持在 0.9 以上是稳妥的默认值。

temperature 和模型版本强绑定。同样是 temperature = 0.7，GPT-5.4-mini 和 Claude Opus 4.8 的实际输出分布差异显著，因为底层 tokenizer 和训练数据不同。跨模型迁移时，参数不能直接平移，需要重新标定。

批量任务要固定 seed。OpenAI 兼容 API 支持 seed 参数，加上 temperature = 0 可以在有限范围内实现可复现输出。调试阶段先锁 seed，排除随机性干扰，确认效果再放开。

# 可复现模式
response = client.chat.completions.create(
    model="gpt-5.4",
    messages=[...],
    temperature=0,
    seed=42
)

---

如果你正在跑这类参数实验，需要频繁切换 GPT-5.4、Claude Sonnet 4.6、DeepSeek V3 做横向对比，推荐试试 XycAi 词元平台。它用一个 OpenAI 兼容 API 接入 200+ 模型，GPT 和 Claude 官方模型价格低至官方价 1.4 折起，支持 Claude Code / Codex / Gemini CLI 一键接入，改一行 base_url 就能切换模型做对比测试，省去多账号管理的麻烦。