IHUI-AI：176 个 LLM 统一接口框架

这是介绍 IHUI-AI 构建过程的十篇系列文章中的第一篇。IHUI-AI 是一个覆盖 8 个平台的开源 AI 操作系统，统一接入了 176 个大语言模型。

IHUI-AI 是一个开源 AI 操作系统，基于同一套 TypeScript 代码库交付 8 个功能完整的客户端应用：Web、API、AI Service、CLI、桌面端、浏览器扩展、移动端和小程序。它通过一套 100% 兼容 OpenAI 的 API，统一接入 176 个大语言模型，包括 OpenAI、Anthropic、Gemini、DeepSeek、Qwen、GLM、Doubao、Kimi、Ollama、vLLM 等。项目采用 Apache 2.0 许可证。从执行 git clone 到实例成功运行，只需 5 分钟。

GitHub：https://github.com/IHUI-INF-AI/IHUI-AI

如今，要构建一款 AI 产品，通常意味着需要同时维护 5 套以上的技术栈：

• 用于 LLM 的 Python 后端（FastAPI + LangChain）
• TypeScript 前端（Next.js）
• 移动端应用（React Native 或 Swift/Kotlin）
• 桌面端封装（Electron 或 Tauri）
• 浏览器扩展（Chrome MV3）
• CLI 工具（Node.js 或 Python）
• 小程序（微信 / 抖音 / 支付宝）

每套技术栈都有自己的身份认证、状态管理和 LLM 客户端。你不得不把同一套业务逻辑重复实现 5 次，应付 5 种不同的类型系统，最终以 5 倍的速度交付 Bug。

解决方案：一套代码库，8 个客户端

IHUI-AI 基于同一套 TypeScript 代码库，交付 8 个客户端应用：

• Web（Next.js 15 + React 19 + Tailwind 4）
• API（Fastify 5，1300+ 个路由）
• AI Service（FastAPI + LangGraph，50+ 个 Agent graph）
• CLI（Node.js TUI REPL）
• 桌面端（Tauri 2.0，跨平台，支持离线使用）
• 浏览器扩展（WXT + Chrome MV3）
• 移动端（React Native + Expo，支持 iOS 和 Android）
• 小程序（Taro 4，支持微信、抖音、支付宝和百度）

所有 8 个客户端都 100% 共享 TypeScript 类型、数据库 schema 和 API 契约。只要修改 apps/api 中的一个路由，变更就会立即反映到 Web、移动端、桌面端、浏览器扩展、小程序和 CLI 的类型中。

通过一个 endpoint 接入 176 个 LLM provider

from openai import OpenAI

client = OpenAI(
    api_key="ihui-local-dev-key",
    base_url="http://localhost:8802/v1"  # ← drop-in replacement
)

resp = client.chat.completions.create(
    model="auto-router",  # or any of 176 models
    messages=[{"role": "user", "content": "Hello!"}],
)

model 字段支持以下任意模型：

• OpenAI：gpt-4o、gpt-4-turbo、o1、o3、gpt-4o-mini
• Anthropic：claude-opus-4、claude-sonnet-4、claude-haiku-4
• Google：gemini-2.0-pro、gemini-2.0-flash
• DeepSeek：deepseek-chat、deepseek-coder、deepseek-reasoner
• Qwen：qwen-max、qwen-plus、qwen-turbo、qwen-coder
• GLM：glm-4-plus、glm-4-flash、glm-4-coder
• Doubao：doubao-pro、doubao-lite
• Kimi：moonshot-v1-128k、kimi-k2
• Ollama（本地）：llama3.3、qwen2.5、mistral
• vLLM（本地）：任意开放权重模型

生产级项目，而非玩具

git clone https://github.com/IHUI-INF-AI/IHUI-AI
cd IHUI-AI
pnpm install
pnpm dev  # starts web (8801) + API (8802) + AI service (8803)

打开 https://ihui.ai 即可查看在线演示。

在接下来的 9 篇文章中，我将深入探讨：

• LangGraph 状态机的生产实践模式
• MCP gateway 的实现
• 8 平台 TypeScript 代码共享策略
• 使用 LiteLLM 在 176 个模型之间进行路由
• 多租户 RLS 与审计链
• Tauri 桌面端工程实践
• React Native + Expo 移动端开发模式
• Taro 4 小程序多平台开发
• 开源商业模式

在 dev.to 上关注我，或订阅 IHUI-AI newsletter，以免错过后续文章。

Apache-2.0——可免费用于商业用途，没有限制。

🤖 由 IHUI-AI 团队倾情生成。如果本文对你有帮助，欢迎在 GitHub 上为我们点亮 Star！

如需采取进一步措施，你可以考虑屏蔽此人和/或举报滥用行为。