Ollama 0.40.16 最值得说的是 Ripple Preview,一个 65B 稠密的 agentic coding 模型。我先给判断:这个模型不是给我这种 32G 内存的机器准备的,它的价值在告诉你「本地跑 coding 大模型」的门槛正在被 Ollama 往高里推。这篇记我实测 0.40.16 的过程,顺便验证它几个小改动。
我在本机(Apple M2 Pro,32 GB,macOS 14.6.1)真装了一遍。没走 brew,直接下官方二进制的 ollama-darwin.tgz,186116182 字节,解压出来一个 78 MB 的 ollama 可执行文件。跑 ./ollama --version,输出 client version is 0.40.16。版本坐实了。
起服务,验一个空列表修复
官方发布说明里有一条,说 /v1/models 在没装任何模型时返回空列表而不是 null。这条我能直接验。我起了 1 遍 ollama serve,日志打出 Listening on 127.0.0.1:11434 (version 0.40.16),然后 curl 打了 1 遍 /v1/models,返回 {"object":"list","data":[]}。data 是空数组,不是 null。这个修复是真的。
./ollama serve &
curl http://localhost:11434/v1/models
# {"object":"list","data":[]}
别小看这个改动。以前返回 null,下游代码要额外判空,现在返回 [],直接遍历就行。这是 API 稳定性里最实惠的一类修复。我还查了 1 遍 /api/version,返回 {"version":"0.40.16"},跟客户端一致。
ripple-preview,卡在 39G
Ripple Preview 我试了。官方模型卡写得很清楚:65B 参数,稠密,每个 token 全量激活,Ricursive Intelligence 预训练。下载两档,39G 和 46G。我跑了 1 遍 ollama show ripple-preview,报 Error: model 'ripple-preview:latest' not found,因为 show 只查本地,不拉模型。
这里有个硬账要算。我本机 32 GB 内存,39G 那档装不下,更别说跑推理时还要给 KV cache 留空间。所以这个模型我跑不动,不是网络问题,是内存不够。官方标的 65B 稠密这个参数,本身就筛掉了一批本地机器。这条判断我写死:32G 内存别惦记 65B 稠密,老老实实上 7B 到 14B 那档。
起服务那下我还注意到一个细节。serve 的日志里打出 discovering available GPUs...,环境变量里 OLLAMA_KEEP_ALIVE=5m0s、OLLAMA_MAX_LOADED_MODELS=0。这两个默认值说明一件事:模型闲置 5 分钟就卸载,而且默认不限制同时加载几个模型。在 32G 内存上,MAX_LOADED_MODELS 这个默认值尤其要留意,同时挂两个大模型直接顶爆内存。我核了 1 遍日志原文,就这两行。
Qwen3.8 Flash Next 的内存账
另一条改动跟 Apple silicon 有关:Qwen3.8 Flash Next 少用约 27 GiB 内存。这是 release body 里官方标的,我核了 1 遍模型卡,qwen3.8 在库里有 27b 和 27b-mlx 两个 tag,mlx 就是苹果芯片的优化路线,默认档 18G。27 GiB 这个省法是走 MLX 那条路省出来的。
我给个选型判断。你在 M 系 Mac 上跑 Qwen3.8 这档模型,选 mlx tag,别选通用量化版,内存能省下整整一档。这是苹果生态里 Ollama 最大的实惠。反过来,你在 NVIDIA 卡上,这个改动跟你没关系,该走 CUDA 走 CUDA。别张冠李戴。
其余改动,稳定性和工具链
这一版剩下的改动偏稳定性和工具链。我核了 1 遍 release body:ollama launch claude 现在始终把 Claude Code 路由到所选模型,以前可能路由偏;ollama launch 会提示某个云模型已经退役;/v1/responses 尊重 truncation 参数,不再默认静默截断;CUDA 13.5 支持 Windows on ARM;还有更新了 llama.cpp。
这里有个判断。这些改动单看都不起眼,但凑一起是一个信号:Ollama 在补它的工具链和 API 合规性。/v1/responses 尊重 truncation 这条,是给接 OpenAI 兼容接口的下游省心的,之前它自作主张截断会坑一批人。这类修复比上新模型更值得追。
值得升吗,给个分界
这一版值不值得升,我给个分界。你关心的是 ollama launch claude 把 Claude Code 路由到所选模型、/v1/responses 尊重 truncation 这类稳定性和工具链改动,值得升,这些都是实打实的修。你只关心模型上新,那这版就一个 Ripple Preview,而且你还得先有 40G 以上的内存才吃得下。
| 场景 | 判断 | 理由 |
|---|---|---|
| 本地跑 coding 大模型 | 看内存 | 65B 要 39G+,不够就上 7B/14B |
| Apple silicon 跑 Qwen3.8 | 选 mlx | 少用约 27 GiB |
| 接 Claude Code 用 ollama | 值得升 | launch claude 路由修好了 |
| 只要个稳定推理服务 | 值得升 | /v1/models 空列表修复 |
这张表是我的选型建议,不是官方给的。我这次跑到了「装二进制、起服务、验版本、验空列表」这四层,没跑到模型推理,因为 65B 塞不进 32G。跑不动的部分,我如实写了。