Open WebUI 如何连接 Ollama
很多人第一次接触本地大模型,都会安装 Ollama。
安装完之后,又会发现一个问题:
虽然可以在命令行聊天,但体验一般。
例如:
ollama run qwen3:8b
只能一直在 Terminal 里面聊天。
如果希望像 ChatGPT 一样,有聊天记录、多轮对话、代码高亮、文件上传等功能,那么 Open WebUI 就是目前最好用的选择之一。
本文就一步一步介绍如何让 Open WebUI 连接 Ollama。
什么是 Open WebUI?
Open WebUI 可以理解成:
一个专门给各种大模型使用的 Web 聊天界面。
它支持:
ChatGPT 风格界面
多轮对话
Markdown 渲染
数学公式
代码高亮
文件上传
图片识别(支持视觉模型)
多用户管理
权限控制
接入 Ollama
接入 OpenAI API
接入 Gemini
接入 Claude
接入各种 OpenAI Compatible API
因此很多公司都会把它作为 AI 内部聊天平台。
Open WebUI 与 Ollama 的关系
很多新手容易混淆这两个项目。
其实职责非常明确。
用户
│
Open WebUI
│
HTTP API
│
Ollama
│
本地大模型
其中:
Ollama
负责:
下载模型
加载模型
推理模型
提供 API
例如:
http://localhost:11434
就是 Ollama 提供的 API。
而:
Open WebUI
只是一个前端聊天界面。
真正回答问题的仍然是 Ollama。
第一步:确认 Ollama 已安装
先确认 Ollama 已经正常运行。
终端执行:
ollama list
例如:
NAME
qwen3:8b
llama3.2
gemma3
再执行:
ollama run qwen3:8b
如果能够正常聊天,就说明 Ollama 没问题。
第二步:启动 Ollama 服务
正常情况下,安装完成以后 Ollama 会自动启动。
可以检查:
curl http://localhost:11434/api/tags
如果返回:
{
"models":[
...
]
}
说明 API 已经正常。
第三步:安装 Open WebUI
官方推荐 Docker 部署。
例如:
docker run -d \
--name open-webui \
-p 3000:8080 \
--add-host=host.docker.internal:host-gateway \
-v open-webui:/app/backend/data \
-e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
--restart always \
ghcr.io/open-webui/open-webui:main
几个参数需要注意。
端口
3000:8080
表示:
浏览器访问:
http://服务器IP:3000
即可打开 Open WebUI。
数据目录
-v open-webui:/app/backend/data
用于保存:
聊天记录
用户信息
配置
API Key
以后升级镜像不会丢失数据。
最重要的一项
OLLAMA_BASE_URL
例如:
http://host.docker.internal:11434
它告诉 Open WebUI:
Ollama 在哪里。
如果这里配置错误,就找不到模型。
第四步:首次登录
浏览器打开:
http://localhost:3000
第一次进入会要求创建管理员账号。
填写:
用户名
邮箱
密码
创建即可。
第五步:检查模型
登录后。
点击:
Select Model
如果看到:
qwen3:8b
llama3.2
gemma3
说明连接成功。
直接选择模型即可聊天。
如果没有模型怎么办?
先检查:
Settings
↓
Connections
↓
Ollama
看看:
Base URL
是不是:
http://host.docker.internal:11434
如果部署在同一台 Linux 上,也可以写:
http://172.17.0.1:11434
或者:
http://宿主机IP:11434
根据部署方式不同有所区别。
Docker 与 Ollama 不在同一台机器
例如:
Open WebUI
↓
192.168.1.100
而:
Ollama
↓
192.168.1.20
那么:
OLLAMA_BASE_URL
应该填写:
http://192.168.1.20:11434
前提是:
Ollama 已监听公网或局域网地址。
例如:
OLLAMA_HOST=0.0.0.0
否则默认只能本机访问。
如何验证连接成功?
可以直接请求:
curl http://localhost:11434/api/tags
或者:
curl http://服务器IP:11434/api/tags
如果返回:
{
"models":[...]
}
说明网络已经打通。
常见问题
1. Open WebUI 找不到 Ollama
最常见原因:
OLLAMA_BASE_URL
配置错误。
Docker 容器里的:
localhost
并不是宿主机。
因此:
http://localhost:11434
很多情况下是错误的。
推荐:
host.docker.internal
或者:
宿主机IP
2. 模型列表为空
检查:
ollama list
如果没有模型:
先下载:
ollama pull qwen3:8b
下载完成以后刷新页面即可。
3. API 无法访问
执行:
curl http://localhost:11434/api/tags
如果失败:
说明 Ollama 没启动。
重新启动:
ollama serve
即可。
4. Docker 无法访问宿主机
Linux 下很多人都会遇到。
建议:
Docker 启动时增加:
--add-host=host.docker.internal:host-gateway
这样:
host.docker.internal
即可解析到宿主机。
总结
Open WebUI 和 Ollama 是一对非常经典的组合:
Ollama:负责下载、管理和运行本地大模型,并提供统一的 API。
Open WebUI:提供类似 ChatGPT 的网页聊天界面,支持多轮对话、历史记录、文件上传等功能。
整个连接流程并不复杂,只需要确认三件事:
Ollama 已正常运行,并能通过
http://localhost:11434提供 API。Open WebUI 能够访问到 Ollama 的 API(正确配置
OLLAMA_BASE_URL)。本地已经下载至少一个模型,例如
qwen3:8b、llama3.2或gemma3。
完成以上配置后,打开 Open WebUI,就可以像使用 ChatGPT 一样,与本地运行的大模型进行对话。如果后续需要接入更多模型或远程推理服务,也只需要修改连接配置,无需更换聊天界面。