Ollama v0.40.14 是 2026-11-03 发的。release 正文就七条改动,我一条条查了源码。它没加什么大功能,全是把「跑乱了的」和「跑慢了的」修了一轮。其中三条我觉得有信息量,尤其 OpenAI 兼容端点那条,改动虽小,牵扯的行为挺深。值得细看。
OpenAI 端点不再塞 1.0
这条改动官方原话是,OpenAI 兼容端点不再覆盖模型打包的采样默认值,客户端不传 temperature、top_p 的时候,拿模型自己的值,而不是 1.0,跟 /api/chat 对齐。我查 openai/openai.go 的 diff,把改动核了一遍。
改动在 commit c1db5f9e。核心是把几个字段从值改成指针。FrequencyPenalty 从 float32 改成 *float32,PresencePenalty 同理,TopP 同理。改指针是为了区分「没传」和「传了 0」。原来没传 temperature,代码就写死 options["temperature"] = 1.0。现在这个 else 分支整个删了。一刀切没了。
这个改动的实际意义。一个模型如果打包时把默认 temperature 设成 0.7,你之前走 OpenAI 端点不传参,拿到的是 1.0,比模型设计值更发散。现在不传参,拿到 0.7。采样更贴近模型作者调好的值。我的判断是,这对在意输出稳定性的人是好消息。代价是,之前依赖 1.0 这个隐式默认的人,升级后行为会变。
Claude Code 不再撞 128k
第二条,ollama launch claude 现在会用模型的输出 token 上限,云端模型不再撞 128k 默认上限。我查 cmd/launch/claude.go 的 diff,新增了一个常量。
// Claude Code caps output for unrecognized model IDs at 128,000 tokens.
const claudeMaxOutputTokens = 128_000
逻辑是,当模型是云端模型或者 Remote,而且环境变量 CLAUDE_CODE_MAX_OUTPUT_TOKENS 没被用户设过,就把 min(模型 MaxOutputTokens, 128000) 写进这个变量。注释里那句话说清了背景,Claude Code 对识别不了的模型 ID,输出上限默认卡 128000 token。兜底在这。
这个坑的根子是模型身份。Claude Code 认识 claude 家模型,认识不了你接的第三方云端模型,就给个 128k 的兜底上限。一个真实输出上限只有 8k 的模型,会被当成 128k 用,跑到一半被截。现在 launch 把真实值写进环境变量,Claude Code 拿到的就是对的数。治了。
MLX 上 top-k 更快了
第三条偏性能。MLX 上大词表 top-k 采样更快。我查 mlxrunner/sample/sample.go 的 diff,原来是用 ArgpartitionAxis 手动取前 k 个,现在换成 mlx.TopKIndices。
res.TopTokens = mlx.TopKIndices(lp, k)
从手写 argpartition 换成库函数,代码还短了。这条只在 Apple 芯片的 MLX 后端生效,别的地方无感。对谁有用,跑大词表模型、又在意采样吞吐的 Mac 用户。
三处改动摆在一起看
把这三处摆一张表,边界就清楚了。
| 改动 | 之前的行为 | 之后的行为 |
|---|---|---|
| OpenAI 端点采样参数 | 不传 temperature、top_p 就强制 1.0 | 不传就用模型打包的默认值 |
| claude launch | 云端模型撞 128k 输出上限 | 写 CLAUDE_CODE_MAX_OUTPUT_TOKENS 传真实值 |
| MLX top-k | 手写 ArgpartitionAxis 取前 k | 用 mlx.TopKIndices |
这三处有一个共同点,都跟「隐式默认」有关。前两处是 Ollama 自己替用户做了决定,第三处是换了个更快的实现。前两处的修正方向一致,从「我替你想好」变成「尊重模型自己的设定」。
我多讲一句指针化这件事。把 float32 改成 *float32,不是炫技,是 Go 里区分「零值」和「没传」的标准做法。一个没传 temperature 的请求,反序列化出来指针是 nil,你才知道「没传」,才能跳过覆盖。原来的 float32 版本,没传也是 0.0,你分不清是「没传」还是「真传了 0」,只能一刀切地塞 1.0。这个改动是行为正确性的前提。没有它,后面对不齐。
还有四条,一句话带过
剩下的四条我列一下,都有据可查。云 web 搜索在 /api/chat 上的响应现在解码正确了,包括压缩过的。/v1/responses 现在保留可读的输入内容,包括之前 assistant 的拒绝,而不是拍平。app 能重试 ChatGPT 断开,不再把连接留在坏状态。ollama launch codex 会先验证 ChatGPT 路由,路由不可用就报清楚错误。
这些改动合起来,指向同一个方向。这个版本没在加能力,在收紧行为。改的是默认值、错误处理、边界条件。这种版本最容易被跳过,也最该升。
谁该升,谁不用急
给个分界。你走 OpenAI 兼容端点调 Ollama,而且在意输出和模型设计值一致,这个版本值得升,那条 1.0 覆盖的改动是实打实的行为修正。你让 Agent 通过 ollama launch claude 接第三方云端模型,更该升,128k 那条直接治「输出被截」的怪病。你只在 Apple 芯片本地跑、调大词表模型,MLX 那条能省点采样时间。你只用 /api/chat 且一直显式传采样参数,那这版对你基本没影响,不升也行。
一句话。v0.40.14 最有价值的地方,是它把两处「隐式默认值」改成了「尊重模型自己的值」。这种改动不会上新闻,但会在某个深夜,让你少查一个「为什么输出和设计不一样」的 bug。