open-webui：一个界面管住 Ollama 和 OpenAI 后端

open-webui 的定位一句话：「AI 的家」——一个自托管、可扩展、能完全离线运行的前端平台，把本地模型（Ollama）和云端 OpenAI 兼容 API 统一成一套界面。它解决的是一个很具体的问题：你既想跑本地的 Ollama，又想接 OpenAI、Groq、OpenRouter 这些云端 API，如果每个后端各装一套界面，管理和切换都很痛苦。open-webui 用一个供应商无关的抽象把这件事收口了。

先给结论：它最大的价值不是「又一个大模型前端」，而是「多后端抽象 + 权限 + 工具管线」这三件事凑齐之后，你可以用一套自托管的东西同时服务个人和团队，还不把数据交给第三方。

多后端抽象

核心设计是供应商无关（provider-agnostic）：任何兼容 OpenAI 协议的 API 都能接，LMStudio、GroqCloud、Mistral、OpenRouter、vLLM 这些都在官方支持清单里；本地则直连 Ollama。图像生成接 DALL·E、Gemini、ComfyUI、AUTOMATIC1111，语音的 STT/TTS 也各有一串可插拔后端。抽象层的意义是：换模型、换供应商，界面和上层应用不用跟着改。

权限与工具管线

面向团队，RBAC 是刚需。open-webui 支持细粒度的角色、组和权限，企业级认证接了 LDAP、Active Directory、SSO（trusted headers + OAuth）、SCIM 2.0，能跟 Okta、Azure AD、Google Workspace 对接。权限和「按用户/组开放模型」绑在一起，管理员可以决定谁能用哪个模型。

工具管线是它的扩展点：插件支持 Filters、Actions、Pipes、Tools、Skills 五类，还能通过 MCP、MCPO、OpenAPI 工具服务器连外部服务。想加审批流、速率限制、数据连接，都在这一层做。Agent 侧还能给 Agent 开放终端和文件系统（Open Terminal），跑数据分析、脚本、修错这类多步任务。

一条启动命令

最常用的 Docker 启动，本地已经跑着 Ollama 的情况：

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data --name open-webui --restart always \
  ghcr.io/open-webui/open-webui:main

两个地方要留意：--add-host=host.docker.internal:host-gateway 是让容器里的服务能访问宿主机上的 Ollama（默认 11434 端口）；-v open-webui:/app/backend/data 是数据卷，少了它数据库不会持久化，重启就丢。只用 OpenAI API、不跑本地模型的话，把 -e OPENAI_API_KEY=... 传进去、去掉 add-host 即可。

一个可复用的配置思路

多后端抽象这套思路，放到你自己的 AI 应用里也能用：用环境变量把「连哪个后端」和「业务逻辑」解耦。

# backends.py —— 一个最小多后端抽象，业务只认统一的调用入口
import os

def chat(messages: list, model: str):
    base = os.environ.get("LLM_BASE_URL")
    key = os.environ.get("LLM_API_KEY")
    if base:  # 本地 Ollama 或自托管兼容端点
        return request(f"{base}/chat/completions", messages, model, key)
    return request("https://api.openai.com/v1/chat/completions", messages, model, key)

业务代码只调 chat(messages, model)，后端是本地 Ollama 还是云端 OpenAI，靠环境变量切，上层零改动。这就是 open-webui 最值得抄的那一处：抽象放在入口，供应商放在配置。

局限

它的定位是「自托管工作台」，不是高并发推理服务。水平扩展靠 Redis 会话加 WebSocket、多 worker 多节点，但真要撑大规模生产流量，它和专门的推理网关（比如 vLLM 集群）不是一个量级的东西。另外它目前代码仓库的许可证是 Open WebUI License，附加「保留 Open WebUI 品牌」的要求，历史贡献保留各自许可，商用前最好把 LICENSE 看清楚。数据面它支持 SQLite（可加密）和 PostgreSQL，文件存储支持本地、S3、GCS、Azure Blob，RAG 挂了 9 种向量库，这块的灵活度是够的。对想把本地模型能力做成团队内可用工作台的人来说，它配得上「常用底座」这个定位，剩下的取舍全在许可证和规模边界上。