2026年1月扫描发现约17.5万台Ollama服务器暴露在公网,近半数开启tool-calling功能,可被恶意调用外部工具。家庭自建LLM服务者务必加认证。
2025年9月,Cisco Talos的研究人员在Shodan上进行了十分钟扫描,就发现了1139台公开可访问的Ollama服务器——其中214台(约五分之一)完全无需任何身份验证即可响应模型查询。Cisco Talos称这些"组织和个人数量可观",他们将LLM基础设施暴露在互联网上,往往没有意识到后果。仅仅四个月后,即2026年1月,SentinelLABS和Censys已经统计到约175,000台这样的服务器分布在130个国家——其中近半数启用了tool-calling,即模型不仅可以回复文本,还能调用外部工具。The Hacker News援引SentinelOne、Censys和Pillar Security的报道披露了这些数据。这两次统计之间的差距不是统计误差,而是在不到半年的时间内规模跃升了两个数量级。家庭 Ollama WebUI解决的就是你读这篇文章的目的:在浏览器中实现私有化的AI对话。但只有在一个前提下它才能诚实地解决问题——由你亲自管理访问权限,而不是依赖默认配置。
好的一面是,安装本身非常简单。Ollama只需一条命令即可安装(Linux上运行curl -fsSL https://ollama.com/install.sh | sh),或从官网下载安装程序,官方quickstart中有详细说明。Open WebUI在GitHub上有146,800颗星——通过pip install open-webui && open-webui serve启动,或用一个Docker容器加挂载卷-v open-webui:/app/backend/data启动,这样重启后对话历史不会丢失,项目README中对此有明确说明。当天晚上你就能获得一个类似ChatGPT的浏览器界面,而且运行在你自己的硬件上。
默认情况下,Ollama只监听localhost:11434,本地请求完全不需要授权——API密钥仅用于云功能和向ollama.com注册表发布。这是团队在文档中明确的官方立场:"No authentication is required when accessing Ollama's API locally"。问题出在下一步——当你想扩大访问范围时。只要设置OLLAMA_HOST=0.0.0.0,以便在同一Wi-Fi网络下用手机访问服务器——而如果路由器此时启用了端口转发到外网(包括通过UPnP自动启用的),同样的11434端口就会暴露给整个互联网,无需密码,Ollama本身也不会发出任何警告。
内置基本认证的请求在项目跟踪器里从2023年11月9日就挂着——issue #1053——至今仍处于开放状态,团队没有承诺实现它。讨论中的参与者,包括用户sebiweise,多年来一直指出,对于没有网络管理经验的人来说,依靠外部反向代理很不方便。形式上他们是对的,结论也令人不快:不要等官方补丁,关闭访问只能靠你自己的纪律。

这里的分叉点更简单——以GB显存来衡量。独立指南Local AI Master给出了一个粗略但可用的规则:8GB VRAM带动约7B参数的模型,16GB——13-14B,24GB以上——已经是32B。把它对应到ollama.com模型页面上的DeepSeek-R1蒸馏版本精确尺寸。这些标签下是独立于Qwen/Llama架构的单独dense模型,在完整671B版本的推理数据上微调过;它们并非旗舰模型的精简副本:
表中故意没有放准确的tokens/秒数据。已有的独立测试用的是不同的模型、不同的Ollama版本和不同的上下文长度,放进同一栏会把他人的博客数据差异伪装成基准测试。实用的参考标准更简单可靠:速度取决于选中的权重是否能和上下文一起完整放入显存。能放进去——回答就快;放不进去——开始swap到RAM,速度差异立刻就能感受到。
Q4_K_M按体积确实是合理的默认值——但称其为"无损金标准"是不准确的。Perplexity测试显示,Q4_K_M相对FP16的偏差约为+0.0532,而Q8_0几乎不偏离基准精度——差异在+0.0004量级。Q4和Q8之间的差距比Q8和FP16之间的差距大一百倍以上。绝对数值本身都很小,在实际对话中的感知度也存疑:测试方法论没有披露是在哪个模型和数据集上测的。如果推理准确性对你比磁盘空间更重要,Q8_0是另一个方向的合理权衡:用两倍的空间换取几乎完整的精度。
如果32B在24GB上遇到了质量天花板,而70B(43GB)或更别说671B(404GB,需要多服务器GPU配置)物理上放不下——Open WebUI对此没有限制:界面不仅能连接本地Ollama,还能连接任何OpenAI兼容API,换个base URL和密钥就行。同样的provod.ai提供了一个入口点,连接平台可用的云模型目录——可以快速验证量化后的本地版本在你的任务上是否真的质量下降了,然后再决定是否永久接受这个权衡。
Ollama开发者是一致的:服务器有意不内置认证功能,远程访问推荐使用VPN——Tailscale或WireGuard——而不是API密钥。从他们的角度来看,开放端口不是产品缺陷,而是用户自己在没有防火墙的情况下把0.0.0.0暴露给外网的结果。工程师Rost Glukhov实际上表达了同样的逻辑:"Keep the Ollama API private by default... enforce that policy twice"——即同时在VPN身份层面和主机防火墙规则上双重关闭访问。完整建议见他关于Ollama远程访问的分析。对于完全没有在路由器上做端口转发的纯家庭网络,Cisco和SentinelOne提到的风险确实不会实现——暴露在外的Ollama和你家Wi-Fi里的本地Ollama是两个完全不同的状态。
但这个反驳有一个限度。Pillar Security记录了一个代号为Operation Bizarre Bazaar的活跃行动:攻击者系统地扫描互联网上的开放Ollama实例,验证其可用性,然后通过LLMjacking网关市场转售访问权。The Hacker News也援引Pillar Security的研究报道了此事。一旦这种访问被泄露,攻击者可以列举并下载已安装的模型,用修改后的版本替换它们,并悄然消耗你的GPU资源——这在Cisco Talos的风险评估部分有单独描述。这里需要谨慎下结论:关于175,000台主机暴露在外的原因分解,没有任何现有报告给出——无论是Cisco Talos还是SentinelLABS和Censys的数据转述,都没有分析每个案例的具体机制。但样本规模本身是对"每个人自己主动打开的"这一解释的反驳——假设175,000个独立的有意识端口转发决定是难以成立的。"这不是我的错,因为我并没有做端口转发"这一立场只有在你确切知道自己没有做端口转发时才能成立——而实际上这在事件发生前很少会被验证。

默认配置——OLLAMA_HOST=127.0.0.1,只能从本机访问。
对于同一家庭Wi-Fi下的手机——可以启用0.0.0.0,但必须用主机防火墙规则限制在本地子网,而不是依赖"路由器本来就关闭着"的假设。
对于在家以外访问——永远不要在路由器上做11434端口转发。安装Tailscale或WireGuard,通过VPN隧道连接——Ollama开发者和独立实践者都这么建议。
每隔几个月通过netstat/路由器设置检查一下是否出现了意外的端口转发——尤其是在路由器固件更新或Docker重新安装之后。
如果为了一个晚上偶尔用AI聊天就要搭这么一套东西让你觉得过度了——这也是一个合理的结论。对于不想为了浏览器聊天而时刻在脑子里挂念防火墙和VPN的人,provod.ai提供了现成的Web界面,通过单一个人账户访问多个模型,用卢布计费且有企业结算文档——同一解决方案的另一种路径,不需要自己维护需要防护的本地服务器。