Ollama 把模型跑起来之后,命令行能用,但不适合长期聊天、切模型、看历史记录,也不方便同时接本地模型和在线 API。真正影响使用体验的,往往不是模型本身,而是“怎么管理和调用”。本文以 OpenWebUI 为统一 Web 入口,按实际验证顺序梳理一条可复现的部署链路:Python 3.11 环境 → OpenWebUI 安装启动 → 管理员初始化 → 本机 Ollama → 局域网 Ollama → 云端 OpenAI 兼容 API。
一、先明确角色分工
OpenWebUI 更适合被理解成一个把不同模型入口集中到浏览器里的 Web 界面和管理层。它负责聊天界面、对话历史、Markdown 与代码展示、模型切换、外部模型连接、管理员配置和多用户入口;Ollama 负责本地模型运行;云端平台负责 API 模型推理。三者不是同一个角色,链路应拆开理解:OpenWebUI 负责界面和连接,Ollama 负责本地推理,云端 API 负责另一条推理路径。
这也意味着“自托管”不等于“百分百离线和绝对隐私”。如果只连接本地 Ollama 并使用本地模型,推理链可以主要留在本地环境;但一旦接入云端 API,Prompt 和请求就会经过对应云端接口。数据路径取决于实际连接的模型后端,本地模型和云端 API 要分开理解。
二、Python 3.11 环境与 OpenWebUI 安装
本次使用 Python 3.11 + pip。安装方式按平台区分:Windows 从 python.org 下载 3.11.8 安装包;macOS 使用 brew install python@3.11;Ubuntu/Debian 使用 sudo apt install python3.11。安装后用 python --version 确认版本落在 3.11。
为减少依赖下载等待,配置清华 PyPI 镜像:
pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple
随后安装并启动 OpenWebUI:
pip install open-webui
open-webui serve
启动后默认本地入口是 8080,浏览器访问 http://localhost:8080/ 即可确认“浏览器 → OpenWebUI:8080”链路跑通。首次进入需要创建第一个管理员账号,这一步很关键,因为后续外部模型连接、API 配置、Ollama 连接和用户管理都从管理员设置进入。
三、接入本机 Ollama 与 DeepSeek R1 1.5B
本地模型路线先准备 Ollama。安装命令按平台区分:Windows 使用 winget install Ollama.Ollama;macOS 使用 brew install ollama;Linux 使用 curl -fsSL https://ollama.ai/install.sh | sh;启动服务用 ollama serve。执行 ollama 确认安装正常后回到 OpenWebUI。
OpenWebUI 的模型选择页面可以直接看到本机已有模型(本次环境中出现了 qwen3:32b),说明 OpenWebUI 与当前 Ollama 链路已经连上。接着在界面中搜索并拉取 deepseek-r1:1.5b,这一步等价于“OpenWebUI 界面 → Ollama → 下载模型”。拉取完成后实际对话,可确认“OpenWebUI → 本机 Ollama → deepseek-r1:1.5b”能正常交互。模型小、响应快只是本次体验表现,不能推导出所有硬件、所有 Prompt 下都一样快。
四、接入局域网 Ollama 与 671B 模型
如果大模型跑在另一台机器上,OpenWebUI 可以作为统一入口。进入管理员设置 http://localhost:8080/admin/settings/general,在外部连接中新增 Ollama API 连接,填写实际局域网里的 Ollama 服务地址。连接成功后回首页,可以看到来自局域网服务器的 deepseek-r1:671B,实际调用也验证了“OpenWebUI → 局域网 Ollama → DeepSeek R1 671B”链路可用。
需要明确边界:671B 是否适合自己的硬件,取决于真正运行 Ollama 的那台主机资源,OpenWebUI 本身不会替你解决大模型算力需求。
五、接入云端 OpenAI 兼容 API
没有本地大算力时,可以走 OpenAI 兼容 API 路线。本次以阿里云百炼为例:进入控制台创建 API Key,回到 OpenWebUI 管理员设置的外部连接 → OpenAI API 新增连接,接口地址填写 https://dashscope.aliyuncs.com/compatible-mode/v1/,并填入自己的 API Key。回首页后可以看到通过百炼接入的 deepseek-r1,此时 OpenWebUI 同时具备本地/局域网 Ollama 和云端 OpenAI 兼容 API 两类模型来源。
安全上要注意:API Key 不应出现在公开文章、截图或仓库中;资料中出现的 sk- 格式示例只能理解为格式示意,不能当作可直接使用的公共密钥。云端路线还会涉及调用额度、云端请求和平台计费或免费额度,具体以账号当时页面显示为准。
六、固定地址访问与排错要点
资料中给出的远程访问目标是把 8080 的外部入口从随机公网地址切换到固定二级子域名,但未展开具体反向代理与 HTTPS 配置细节。工程上可执行的方向是:在 OpenWebUI 前放置反向代理,将固定域名转发到本机 8080,并在代理层终止 HTTPS;同时限制管理后台的暴露范围,避免管理员设置页直接暴露在公网。
常见排错可按链路分段定位:8080 打不开先确认 open-webui serve 是否仍在运行;模型列表为空先确认 Ollama 服务是否启动、外部连接地址是否可达;局域网模型不可见检查目标主机防火墙与监听地址;云端模型报错优先核对接口地址、API Key 和账号额度。把“界面—连接—推理”三段分开排查,比整体重启更容易定位问题。
整条链路的价值在于模型后端可以拆开管理:轻量模型放本机,大模型放局域网服务器,需要时再接云端 API,界面、算力和模型来源不必绑死在一台机器上。RAG、MCP、团队协作等属于 OpenWebUI 后续可扩展方向,本文不作为已完整验证的主线。