用 Docker 搭建自托管 AI 聊天助手
教程使用 Ollama 提供本地推理、Open WebUI 提供聊天界面,并通过 Docker 在 Linux 服务器部署。内容覆盖模型拉取、服务连接、Nginx 与 HTTPS 配置,以及常见问题。
原文暂未完整获取,基于公开信息的快读
dev.to 的一篇教程给出了自托管 AI 聊天助手的部署路径:用 Ollama 运行本地模型,用 Open WebUI 提供聊天界面,两者通过 Docker 部署在 Linux 服务器上,再由 Nginx 和 HTTPS 提供网页入口。现有节选包含容器连接、数据持久化和账号设置,但常见问题部分尚不完整。
目前能确认什么
这套方案分成三层:Ollama 负责模型推理,Open WebUI 管理聊天界面和用户账号,Nginx 接收浏览器请求并转发给 WebUI。界面类似 ChatGPT,不代表使用了 OpenAI 的模型或服务。
教程让两个容器加入同一个 Docker 网络,不向公网发布 Ollama 端口;WebUI 的端口只绑定服务器本机,再通过 Nginx 对外开放。模型文件、用户和聊天数据分别保存在持久卷中,避免随容器替换而丢失。
账号方面,首个注册用户成为管理员,教程要求随后关闭新用户注册。HTTPS 使用 Let's Encrypt 证书,由 Certbot 配置和续期。HTTPS 保护传输过程,不能代替账号权限和服务器安全管理。
我的判断
这份教程的实用之处,是把模型推理到浏览器入口的链路串了起来。
程序员可以据此理解各层职责:网页无法聊天,问题可能出在反向代理、WebUI 与 Ollama 的连接,或模型加载环节,而不只是模型本身。
但「自托管」不能直接等同于「数据绝不离开网络」。教程同时包含通过域名开放网页入口的步骤;如果用于处理内部代码,还需要确认访问范围、外部请求和聊天数据的保存方式。
节选也没有提供可核验的性能测试,不能把内存示例当成流畅运行的保证。此外,示例镜像使用 latest 和 main 标签,后续拉取的内容可能变化。准备长期使用时,我会优先固定镜像版本,并确认数据备份和恢复流程;这些环节,现有节选还没交代清楚。