7.0
热点
AI SCORE
开源项目2024-09-05 23:40
AnythingLLM：开源全能 AI 桌面助手
Hacker News · github.com#开源#LLM#AI助手
Editor brief · 编辑速览
功能完整的本地化 AI 助手，支持多模型后端和 RAG，可自部署或集成到应用。
我们也在开发 Open Computer，为 AI Agents 提供一套完整的计算机环境。
这将把 AnythingLLM 的 Agent 能力提升到一个全新层次，并为 AI Agent 的使用带来一种全新的 UX 范式。
⭐ Star 这个仓库，及时获取最新动态！
AnythingLLM：你一直在寻找的一站式 AI 应用。与文档对话、使用 AI Agents、高度可配置、支持多用户，而且无须经历令人抓狂的配置过程。
| | 文档 | 托管实例
👉 AnythingLLM 桌面版（Mac、Windows 和 Linux）！立即下载
与文档对话。使用 AI Agents 自动执行复杂工作流。高度可配置、支持多用户、久经实战检验——默认在本地运行，开箱即用，零配置负担。
AnythingLLM 是一款一站式 AI 应用，让你能够构建私有、功能完整且毫不妥协的 ChatGPT。连接你喜欢的本地或云端 LLM，导入文档，几分钟内即可开始对话。开箱即提供内置 Agents、多用户支持、向量数据库和文档处理流水线——不需要任何额外配置。
AnythingLLM 还支持多用户。你可以分别控制每位用户的访问权限和使用体验，同时不牺牲实例、知识产权的安全性或隐私。
Dynamic Model Routing——根据你定义的规则，自动将对话路由到最适合当前会话的服务商和模型。
Automatic & User Managed Memories——让 LLM 记住与你或工作区有关的重要信息。
Scheduled Tasks——按照 cron 计划运行周期性任务或 prompt，并可使用完整的 Agent 能力。
Intelligent Skill Selection——为模型启用数量不受限制的工具，同时将每次查询的 token 用量最多降低 80%。
无代码 AI Agent 构建器。
支持多模态（包括闭源和开源 LLM！）。
👤 支持多用户实例和权限管理（仅限 Docker 版本）。
🦾 工作区内置 Agents（浏览网页等）。
💬 可嵌入网站的自定义 Chat widget（仅限 Docker 版本）。
📖 支持多种文档类型（PDF、TXT、DOCX 等）。
直观的聊天 UI，支持拖放上传和来源引用。
可用于生产环境，适配任意云部署。
兼容所有主流闭源和开源 LLM 服务商。
针对大型文档集合提供内置优化——与其他聊天 UI 相比，成本更低、响应更快。
提供完整的 Developer API，支持自定义集成！
……还有更多功能——几分钟即可安装，亲自体验一下吧。
任何兼容 llama.cpp 的开源模型
NVIDIA NIM（聊天模型）
LM Studio（所有模型）
Together AI（聊天模型）
Fireworks AI（聊天模型）
Perplexity（聊天模型）
OpenRouter（聊天模型）
DeepSeek（聊天模型）
Text Generation Web UI
Novita AI（聊天模型）
Microsoft Foundry Local
CometAPI（聊天模型）
PrivateModeAI（聊天模型）
SambaNova Cloud（聊天模型）
Cerebras（聊天模型）
AnythingLLM Native Embedder（默认）
通用 OpenAI-compatible embedding APIs
AnythingLLM Built-in（默认）
Native Browser Built-in（默认）
PiperTTSLocal——在浏览器中运行
任何 OpenAI Compatible TTS service。
Native Browser Built-in（默认）
这个 monorepo 由六个主要部分组成：
frontend：基于 viteJS + React 的前端，你可以运行它，轻松创建并管理 LLM 可以使用的全部内容。
server：NodeJS express 服务端，负责处理所有交互、vectorDB 管理以及 LLM 交互。
collector：用于处理和解析 UI 所提交文档的 NodeJS express 服务端。
docker：Docker 使用说明、构建流程，以及从源代码构建所需的信息。
embed：用于生成和创建 Web Embed widget 的子模块。
browser-extension：Chrome 浏览器扩展的子模块。
Mintplex Labs 和社区维护了多种部署方式、脚本与模板，你可以使用它们在本地运行 AnythingLLM。请参阅下表，了解如何部署到你偏好的环境，或执行自动部署。
或者在不使用 Docker 的情况下搭建生产级 AnythingLLM 实例 →
yarn setup：填写各个应用模块所需的 .env 文件（在仓库根目录运行）。请先填写这些文件，再继续后续操作。请确保 server/.env.development 已正确填写，否则系统将无法正常运行。
请先填写这些文件，再继续后续操作。请确保 server/.env.development 已正确填写，否则系统将无法正常运行。
yarn dev:server：在本地启动 server（在仓库根目录运行）。
yarn dev:frontend：在本地启动 frontend（在仓库根目录运行）。
yarn dev:collector：随后启动 document collector（在仓库根目录运行）。
Mintplex Labs Inc 的 AnythingLLM 包含一项 telemetry 功能，用于收集匿名使用信息。
我们利用这些信息了解 AnythingLLM 的使用方式，帮助确定新功能和 bug 修复工作的优先级，并改善 AnythingLLM 的性能与稳定性。
如果想退出 telemetry，可在 server 或 docker 的 .env 设置中将 DISABLE_TELEMETRY 设为 "true"。你也可以在应用内进入侧边栏 > Privacy，然后禁用 telemetry。
我们只会追踪有助于制定产品和路线图决策的使用详情，具体包括：
安装类型（Docker 或 Desktop）。
安装类型（Docker 或 Desktop）。
添加或删除文档时的事件。不包含与文档有关的任何信息，只记录该事件曾经发生。这有助于我们了解产品的使用情况。
添加或删除文档时的事件。不包含与文档有关的任何信息，只记录该事件曾经发生。这有助于我们了解产品的使用情况。
正在使用的向量数据库类型。这有助于我们在对应服务商发布更新时确定变更工作的优先级。
正在使用的向量数据库类型。这有助于我们在对应服务商发布更新时确定变更工作的优先级。
正在使用的 LLM 服务商类型和模型标签。这有助于我们在对应服务商、模型或二者组合发布更新时，确定变更工作的优先级，例如 reasoning 模型与常规模型、多模态模型等。
正在使用的 LLM 服务商类型和模型标签。这有助于我们在对应服务商、模型或二者组合发布更新时，确定变更工作的优先级，例如 reasoning 模型与常规模型、多模态模型等。
发送聊天消息时的事件。这是最常见的“事件”，帮助我们了解该项目在所有安装实例中的每日活跃情况。再次强调，我们只会发送事件本身——无法获知聊天的性质或具体内容。
发送聊天消息时的事件。这是最常见的“事件”，帮助我们了解该项目在所有安装实例中的每日活跃情况。再次强调，我们只会发送事件本身——无法获知聊天的性质或具体内容。
你可以查找所有调用 Telemetry.sendTelemetry 的位置，以验证上述说法。此外，这些事件也会写入输出日志，因此只要启用了该功能，你还可以看到具体发送的数据。我们不会收集 IP 或其他身份识别信息。Telemetry 服务商是 PostHog，这是一项开源 telemetry 收集服务。
我们非常重视隐私，也希望你能理解：我们希望了解工具的使用方式，从而构建真正值得使用的产品，同时避免使用烦人的弹窗调查。匿名数据永远不会与第三方共享。
在源代码中查看所有 telemetry 事件
即使禁用了 telemetry，你仍可能看到发往以下服务的出站连接：
如果使用外部工具、LLM、Embedding Models 或 Vector Databases，你仍会看到连接到相应服务商的出站请求。
cdn.anythingllm.com：用于从我们的镜像 CDN 拉取模型。该连接不会被 telemetry 追踪，而且对 VPN 受限地区的用户确实很有帮助。
github/githubusercontent.com：应用会从这些域名下载一些不同的扁平文件，用于 context window 缓存。
简单来说，如果禁用了 telemetry，我们就不会收集任何信息。不过，根据你的配置，你仍可能看到出站连接，并需要遵守相应服务商的服务条款。
如何为 AnythingLLM 贡献代码。
AnythingLLM Mobile（MIT Licensed）：一款移动应用，让你可以在移动设备上使用 AnythingLLM。
AnythingLLM Browser Extension：一款浏览器扩展，让你可以在浏览器中使用 AnythingLLM。
AnythingLLM Embed：一个 widget，让你可以将 AnythingLLM 嵌入自己的网站。
版权所有 © 2026 Mintplex Labs。本项目采用 MIT License。