Ollama：在 Mac 上轻松本地运行开源 LLM

开始用开放模型构建

curl -fsSL https://ollama.com/install.sh | sh

irm https://ollama.com/install.ps1 | iex

curl -fsSL https://ollama.com/install.sh | sh

手动安装说明

官方 Ollama Docker 镜像 ollama/ollama 可在 Docker Hub 上获取。

ollama

系统会提示你运行一个模型，或将 Ollama 连接到你现有的 agent 或应用，如 Claude Code、OpenClaw、OpenCode、Codex、Copilot 等。

启动特定集成：

ollama launch claude

支持的集成包括 Claude Code、Codex、Copilot CLI、Droid 和 OpenCode。

使用 OpenClaw 将 Ollama 变成跨 WhatsApp、Telegram、Slack、Discord 等多个平台的个人 AI 助手：

ollama launch openclaw

运行并与 Gemma 4 对话：

ollama run gemma4

完整列表见 ollama.com/library。

详见快速开始指南。

Ollama 提供了用于运行和管理模型的 REST API。

curl http://localhost:11434/api/chat -d '{
  "model": "gemma4",
  "messages": [{
    "role": "user",
    "content": "Why is the sky blue?"
  }],
  "stream": false
}'

所有端点详见 API 文档。

pip install ollama

from ollama import chat

response = chat(model='gemma4', messages=[
  {
    'role': 'user',
    'content': 'Why is the sky blue?',
  },
])
print(response.message.content)

npm i ollama

import ollama from "ollama";

const response = await ollama.chat({
  model: "gemma4",
  messages: [{ role: "user", content: "Why is the sky blue?" }],
});
console.log(response.message.content);

llama.cpp 项目由 Georgi Gerganov 创立。

社区集成

想要添加你的项目？提交一个 pull request。

聊天应用

Open WebUI - 可扩展的自托管 AI 界面

Onyx - 连接型 AI 工作区

LibreChat - 增强版 ChatGPT 克隆，支持多提供商

Lobe Chat - 具有插件生态的现代聊天框架（文档）

NextChat - 跨平台 ChatGPT UI（文档）

Perplexica - AI 驱动的搜索引擎，开源 Perplexity 替代品

big-AGI - 专业人士用 AI 套件

Lollms WebUI - 多模型网络界面

ChatOllama - 带知识库的聊天机器人

Bionic GPT - 本地部署 AI 平台

Chatbot UI - ChatGPT 风格网络界面

Hollama - 简约网络界面

Chatbox - 桌面和网络 AI 客户端

chat - 团队聊天网络应用

Ollama RAG 聊天机器人 - 使用 RAG 与多个 PDF 对话

基于 Tkinter 的客户端 - Python 桌面客户端

Dify.AI - LLM 应用开发平台

AnythingLLM - Mac、Windows 和 Linux 多合一 AI 应用

Maid - 跨平台移动和桌面客户端

Witsy - Mac、Windows 和 Linux AI 桌面应用

Cherry Studio - 多提供商桌面客户端

Ollama App - 桌面和移动多平台客户端

PyGPT - Linux、Windows 和 Mac AI 桌面助手

Alpaca - Linux 和 macOS GTK4 客户端

SwiftChat - 跨平台支持 iOS、Android 和 Apple Vision Pro

Enchanted - macOS 和 iOS 原生客户端

RWKV-Runner - 多模型桌面运行器

Ollama Grid Search - 评估和比较模型

macai - Ollama 和 ChatGPT 的 macOS 客户端

AI Studio - 多提供商桌面 IDE

Reins - 参数调优和推理模型支持

ConfiChat - 隐私聚焦，可选加密

LLocal.in - Electron 桌面客户端

MindMac - Mac AI 聊天客户端

Msty - 多模型桌面客户端

BoltAI for Mac - Mac AI 聊天客户端

IntelliBar - macOS AI 驱动的助手

Kerlig AI - macOS AI 写作助手

Hillnote - Markdown 优先 AI 工作区

Perfect Memory AI - 按屏幕和会议历史个性化生产力 AI

Ollama Android Chat - Android 一键 Ollama

上面列出的 SwiftChat、Enchanted、Maid、Ollama App、Reins 和 ConfiChat 也支持移动平台。

代码编辑器与开发

Cline - VS Code 多文件/整库编码扩展

Continue - 任何 IDE 的开源 AI 代码助手

Void - 开源 AI 代码编辑器，Cursor 替代品

Copilot for Obsidian - Obsidian AI 助手

twinny - Copilot 和 Copilot chat 替代品

gptel Emacs 客户端 - Emacs LLM 客户端

Ollama Copilot - 将 Ollama 用作 GitHub Copilot

Obsidian Local GPT - Obsidian 本地 AI

Ellama Emacs 客户端 - Emacs LLM 工具

orbiton - 无配置文本编辑器，带 Ollama tab 补全

AI ST Completion - Sublime Text 4 AI 助手

VT Code - 基于 Rust 的终端编码 agent，使用 Tree-sitter

QodeAssist - Qt Creator AI 编码助手

AI Toolkit for VS Code - Microsoft 官方 VS Code 扩展

Open Interpreter - 计算机自然语言界面

框架与库

LiteLLM - 100+ LLM 提供商统一 API

Semantic Kernel - Microsoft AI 编排 SDK

LangChain4j - Java LangChain（示例）

LangChainGo - Go LangChain（示例）

Spring AI - Spring 框架 AI 支持（文档）

LangChain 和 LangChain.js 及示例

Ollama for Ruby - Ruby LLM 库

any-llm - Mozilla 统一 LLM 界面

OllamaSharp for .NET - .NET SDK

LangChainRust - Rust LangChain（示例）

Agents-Flex for Java - Java agent 框架（示例）

Elixir LangChain - Elixir LangChain

Ollama-rs for Rust - Rust SDK

LangChain for .NET - .NET LangChain（示例）

chromem-go - Go 向量数据库，带 Ollama embeddings（示例）

LangChainDart - Dart LangChain

LlmTornado - 多推理 API 统一 C# 界面

Ollama4j for Java - Java SDK

Ollama for Laravel - Laravel 集成

Ollama for Swift - Swift SDK

LlamaIndex 和 LlamaIndexTS - LLM 应用数据框架

Haystack - AI 管道框架

Firebase Genkit - Google AI 框架

Ollama-hpp for C++ - C++ SDK

PromptingTools.jl - Julia LLM 工具包（示例）

Ollama for R - rollama - R SDK

Testcontainers - 基于容器的测试

LLPhant - PHP AI 框架

AutoGPT - 自主 AI agent 平台

crewAI - 多 agent 编排框架

Strands Agents - AWS 模型驱动 agent 构建

Cheshire Cat - AI 助手框架

any-agent - Mozilla 统一 agent 框架界面

Stakpak - 开源 DevOps agent

Hexabot - 对话 AI 构建器

Neuro SAN - 多 agent 编排（文档）

RAG 与知识库

RAGFlow - 基于深度文档理解的 RAG 引擎

R2R - 开源 RAG 引擎

MaxKB - 即用型 RAG 聊天机器人

Minima - 本地或完全本地 RAG

Chipper - 带 Haystack RAG 的 AI 界面

ARGO - Mac/Windows/Linux 上的 RAG 和深度研究

Archyve - RAG 启用文档库

Casibase - 带 RAG 和 SSO 的 AI 知识库

BrainSoup - 本地客户端，具有 RAG 和多 agent 自动化

LangBot - 多平台消息 bot，含 agent 和 RAG

AstrBot - 多平台聊天机器人，具有 RAG 和插件

Discord-Ollama Chat Bot - TypeScript Discord bot

Ollama Telegram Bot - Telegram bot

LLM Telegram Bot - 角色扮演 Telegram bot

终端与 CLI 工具

aichat - 全功能 LLM CLI，Shell 助手、RAG 和 AI 工具

oterm - Ollama 终端客户端

gollama - 基于 Go 的 Ollama 模型管理器

tlm - 本地 shell copilot

tenere - LLM TUI

ParLlama - Ollama TUI

llm-ollama - Datasette 的 LLM CLI 插件

ShellOracle - Shell 命令建议

LLM-X - LLM 渐进式网络应用

cmdh - 自然语言转 shell 命令

其他应用

VT - 最小多模态 AI 聊天应用

AppFlowy - AI 协作工作区，自托管 Notion 替代品

Screenpipe - 24/7 屏幕和麦克风录制，AI 驱动搜索

Vibe - 会议转录和分析

Page Assist - AI 驱动浏览的 Chrome 扩展

NativeMind - 私密、设备端浏览器 AI 助手

Ollama Fortress - Ollama 安全代理

1Panel - 网络版 Linux 服务器管理

Writeopia - 集成 Ollama 的文本编辑器

QA-Pilot - GitHub 代码库理解

Raycast 扩展 - Raycast 中的 Ollama

Painting Droid - 集成 AI 的绘画应用

Serene Pub - AI 角色扮演应用

Mayan EDMS - 具有 Ollama 工作流的文档管理

TagSpaces - AI 标签的文件管理

观测与监控

Opik - 调试、评估和监控 LLM 应用

OpenLIT - Ollama 和 GPU 的 OpenTelemetry 原生监控

Lunary - 带分析和 PII 掩码的 LLM 观测性

Langfuse - 开源 LLM 观测性

HoneyHive - agent 的 AI 观测性和评估

MLflow Tracing - 开源 LLM 观测性

数据库与 Embeddings

pgai - 作为向量数据库的 PostgreSQL（指南）

MindsDB - 将 Ollama 与 200+ 数据平台连接

chromem-go - Go 嵌入式向量数据库（示例）

Kangaroo - AI 驱动的 SQL 客户端

基础设施与部署

Harbor - 容器化 LLM 工具包，以 Ollama 为默认后端