返回 AI锐评

AI 拆掉了温度旋钮,严谨模式原来没接线

芝士AI吃鱼2026年10月24日11 分钟阅读阅读统计加载中

事实来源:Anthropic API 版本说明、迁移指南与幻觉缓解文档

一份 AI 写的报告被退回来,批注只有一句:“这篇参考文献,查不到。”

产品评审桌旁,有人指着控制台上的滑块说:“是不是创造力太高了?”

于是,滑块被拖到最左边。旁边的标签也改了,从“温度”改成“严谨模式”。界面立刻专业起来,仿佛那篇不存在的论文终于收到了撤稿通知。

可它甚至没发表过。

这是原创假设场景,不是作者的产品使用经历,也不是某家公司的真实评审记录。它戳中的,是 AI 产品里一个很省事的误会:既然机器会乱说,把“随机”调低,它大概就会认真一点。

2026 年 10 月 21 日,Anthropic 发布了新的 API 版本。新版本移除了 temperature、top_p、top_k 三个采样参数。本文写于 10 月 24 日,讨论的是三天前的接口变化,不是“今天所有 AI 突然取消了温度”。

这次,控制台上的旋钮真的被拆走了一部分。

值得惋惜的是失去的控制能力。值得顺手揭掉的,则是上面那张“严谨模式”的贴纸。前者确实接着线,后者从来没有它承诺的那条电路。

拆的是旋钮,不是采样本身#

先把接口范围说清,否则一篇讨论可靠性的文章,会先制造一次不可靠的迁移建议。

官方版本说明规定,在 2026-10-21 版本的 Messages API 中,发送上述任一参数都会得到 400 错误。不是参数值太激进才报错,也不是只针对某一个模型。迁移指南进一步说明,即使传入默认值也不行;不传这些参数时,仍按默认值采样,其中 temperature 为 1.0。

所以,这不是“模型不再随机”,更不是“厂商终于实现了确定性回答”。变化发生在调用方能提交哪些控制参数,而不是模型从此不用采样。

旧调用也没有一夜之间全部失效。迁移指南明确保留了选择:依赖非默认采样值的请求,可以继续使用 2023-06-01 版本,前提是所用模型支持这些取值。官方举出的例子是 Claude Sonnet 4.6;像 Claude 4.7 及之后本就只接受默认值的模型,不能靠旧版本凭空拿回一个原本不存在的能力。Amazon Bedrock 对新版本的支持另有模型范围,也不能把原生 API 的描述无条件套到每个托管入口。

开发者真正需要留意的是默认值会跟着明确的版本升级走。迁移指南列出的 Python SDK 2.0.0、TypeScript SDK 1.0.0 等新主版本改为发送新 API 版本;更早的 SDK 发送旧版本。这不是“随便更新一个小补丁都会切换”,但也不是“业务代码没改,所以请求语义一定没变”。

如果一个曾经靠低温减少输出变化的应用,在迁移后只删掉报错字段,它修好的只是请求能否被受理。输出特征是否还满足业务要求,是另一件需要重新检查的事。

这里的事实均来自官方文档。本文没有调用这些版本做对照实验,也没有测出某个模型究竟变得多不稳定。

“每次说得差不多”,不是“这次说得对”#

温度有实际作用,不能因为它不是事实开关,就把它说成安慰剂。

在通常的采样解释里,温度改变候选 token 的相对概率分布。低温通常会让概率较高的选择更占优势;top_p、top_k 则以不同方式限制采样候选范围。它们作用于生成选择,不是去数据库里核验某篇论文是否真的存在。

这两件事之间,隔着整个产品验收。

假设一段上下文把错误作者名重复写了好几次,模型最倾向续写的恰好也是那个错误名字。让它更偏向高概率选择,并不会自动把作者改对。哪怕某个理想化设置能保证同一输入得到完全相同的字符串,那也只意味着同一个错误可以准时来上班。

现实中,温度设成零也不能被当作跨服务、跨版本的通用确定性保证。采样配置、模型版本和服务实现都需要具体看待。更何况,字符串完全相同与事实正确,本来就不是同一项承诺。

这就是“严谨模式”那张贴纸的问题。它把一个关于输出分布的选项,翻译成了一个关于可信度的许诺。

滑块越容易操作,许诺就越容易被忽略。用户不需要理解概率分布,他只看见右边写着“创意”,左边写着“准确”。把滑块拖过去,心理上已经完成了一次质量检查。系统却可能什么证据都没查。

因此,这里的批评不是针对使用低温的人,而是针对偷换后的产品解释。让同一任务的措辞少一点变化,有时很重要;把这个收益包装成“不胡说”,会让使用者把该留给核验的注意力交给一个滑块。

拆掉旋钮也不会自动解决这种偷换。它可能改名叫“专业助手”,藏进提示词,继续出售同一种安心感。控制面板变简洁了,承诺却仍然接错线。

新 API 版本不再接受三个采样参数,但仍使用默认采样。采样控制影响生成分布,事实验收需要检查证据,两者不能互相替代。
AI 辅助制作的原创机制图。接口变化来自 Anthropic 官方文档,验收关系为本文分析;箭头不表示实测收益或真实系统拓扑。按明确的文字视觉要求绘制,未声称读取不可见的图像参考。 查看大图 ↗

别把失去的控制,说成用户终于被教育了#

如果文章到这里就宣布“温度没用,删得好”,那只是换一张贴纸。

对一些任务,输出变化本身就会制造成本。团队可能希望同一条分类规则少换几种说法,希望生成的草案更接近指定风格,也可能已经围绕某个采样配置积累了测试样本。低温不是万能保证,却可以是他们确实使用过的一项控制手段。

Anthropic 的迁移指南并没有说这些需求都是误解。它直言:在支持其他取值的模型上,降低温度带来的更一致输出效果会丢失,没有另一个设置可以直接替代。这句说明,比“你只需要写好提示词”诚实得多。

提示词能表达约束,与提供同一种采样控制,不是一回事。不能因为二者都可能影响输出,就假装它们可以一比一互换。也不能凭一个接口变动,推断厂商已经证明所有旧配置都没价值,或者断言它正在故意让结果更差。公开文档不足以支持这样的动机判断。

真正需要重新摆放的,是控制和验收的位置。

还是那份找不到参考文献的报告。即使它连续生成几次,标题、作者和年份都没有变,审核者仍然需要去看来源。如果文献存在,还要看它是否真的支持报告里的判断。反过来,两次措辞不同,也未必意味着其中一次事实错误;同一个结论可以有不止一种合格表述。

这不是让每个 AI 应用都配一间审讯室。随手写一段生日祝福,与向客户提交一份有出处的技术比较,风险不同,验收强度当然可以不同。问题在于,验收应该跟着任务后果走,而不是跟着界面上“严谨”两个字走。

Anthropic 的幻觉缓解文档建议允许模型承认不知道、在长文档任务中先提取相关原文、让事实性主张附带可核对的引用。这些是官方给出的缓解方法,不是消除错误的保证。引用也可能引用错,找得到一段原文也不代表推论成立,检查还得落到具体主张上。

从产品设计看,至少应该让“格式合格”“来源可查”“来源支持结论”保持可区分。格式检查通过,可以给格式通过的标识;证据尚未核对,就别顺手给整份报告盖一个可靠的章。

这里提出的是验收思路,不是本文已经运行的评测,也没有据此算出准确率或收益。它的价值恰恰在于不替未知结果预先颁奖。

控制台可以少一个旋钮,不能少一张说明牌#

这次变化并不能支持“采样参数从此退出整个行业”这样的结论。它是一个具体厂商、具体 API 版本及相关 SDK 的接口决策。别的平台、旧版本、不同模型能力,要分别看。

但它提供了一个很好的机会,让做 AI 产品的人重新看看自己控制台上的字。

哪些选项真的改变生成机制,哪些只是写进了提示词,哪些是业务规则的校验结果,最好别共用一套让人安心的名字。用户可以不懂 top_p,却有权知道按钮到底承诺了什么。失去控制能力需要被说明,尚未完成的验证也需要被看见。

那场假设中的产品评审可以继续。工程师删掉不再接受的参数,测试人员检查原来的输出约束,写报告的人去找那篇参考文献。这些工作都没有“严谨模式”四个字那么省事,但每一件都接着真实的线。

控制台空出来的位置,不必急着再放一个新旋钮。

放一张说明牌也很好:这里控制的是如何生成,不负责证明生成的内容是真的。


本文由 AI 辅助整理与写作,含原创假设场景与产品分析。事实核对截至 2026 年 10 月 24 日;接口行为、SDK 范围与迁移选择来自 Anthropic 官方说明,未进行模型调用或采样对照实测。图解为原创逻辑重建,不含虚构性能数据。

想继续讨论 AI 应用怎样把可控与可信分开设计,可以看看知识星球,也欢迎从公众号入口找到「芝士AI吃鱼」。

AI 实践

想把本文的问题继续做深一点?

知识星球里会继续整理相关案例、工程约束和问题讨论;具体内容以当前社区页面为准。

AI 实践知识星球加入海报,包含可扫描二维码
芝士AI吃鱼公众号二维码

关注「芝士AI吃鱼」公众号持续更新

在这里,我用「人话」和「漫画」拆解 AI 技术。公众号更新会同步整理到本站,方便继续阅读、检索和订阅。

点击二维码可放大,使用微信扫码关注。

芝士AI吃鱼

有出处的事实,有理由的判断。

更多锐评