LocalGPT: 本地 AI 助手的 Rust 实现

LocalGPT: 本地 AI 助手的 Rust 实现 | 前端进阶之旅

Full translation

完整中文译文

用自然语言构建可探索的 3D 世界 —— 几何体、材质、光照、音频和行为。开源、本地运行。

来自 crates.io（用户）

如果你只想运行 LocalGPT —— 无需检出源代码：

# World Building
cargo install localgpt-gen

# AI Assistant (chat, memory, daemon)
cargo install localgpt

来自源代码（开发者）

如果你已克隆仓库并想修改代码，使用 cargo run 快速迭代而无需安装：

git clone https://github.com/localgpt-app/localgpt.git
cd localgpt

# World Building
cargo run -p localgpt-gen -- "Create a desert scene with pyramids"

# AI Assistant
cargo run -- chat
cargo run -- daemon start

完整选项（feature flags、无头构建、Docker）：详见 Installation。

Gen Mode（世界构建）

localgpt-gen 是一个独立二进制，使用 Bevy 游戏引擎进行 AI 驱动的 3D 世界创建。

# Start interactive mode
localgpt-gen

# Start with an initial prompt
localgpt-gen "Create a desert scene with pyramids and a UFO hovering above"

# Load an existing scene
localgpt-gen --scene ./world.glb

# Verbose logging
localgpt-gen --verbose

参数化形状 —— box、sphere、cylinder、capsule、plane、torus、pyramid、tetrahedron、icosahedron、wedge

PBR 材质 —— color、metalness、roughness、emissive、alpha、double-sided

光照 —— point、spot、directional lights，支持颜色和强度配置

行为 —— orbit、spin、bob、look_at、pulse、path_follow、bounce

音频 —— 环境音（风、雨、森林、海洋、洞穴）和空间发射源

导出 —— glTF/GLB、HTML（浏览器可查看）、截图

世界技能 —— 将完整世界保存/加载为可复用的技能

无头模式和实验队列

队列化世界实验并在无窗口模式下生成 —— 用于夜间批处理、CI 流水线或脚本化变体：

# Generate a single world (no window)
localgpt-gen headless --prompt "Build a cozy cabin in a snowy forest"

# With style hint
localgpt-gen headless --prompt "Village marketplace" --style "Studio Ghibli"

记忆系统在会话间学习你的创意风格 —— 调色板、光照偏好、实体模板 —— 并在未来生成中自动应用。

完整文档：Headless Mode & Experiment Queue

从 Claude Desktop、Codex Desktop 或任何 MCP 兼容编辑器（VS Code、Zed、Cursor）使用 Gen：

localgpt-gen mcp-server

添加到 Claude Desktop 配置（macOS 上为 ~/Library/Application Support/Claude/claude_desktop_config.json）：

{
  "mcpServers": {
    "localgpt-gen": {
      "command": "localgpt-gen",
      "args": ["mcp-server"]
    }
  }
}

对于 CLI 工具（Claude CLI、Gemini CLI、Codex CLI），使用 --connect 将工具调用路由到你现有的窗口。详见 CLI Mode (MCP Relay)。

完整文档：LocalGPT Gen | MCP Server

做出了什么酷的东西？在 Discord 或 YouTube 上分享吧！

localgpt —— AI 助手

localgpt 是一个本地优先的 AI 助手，具有持久化记忆、自主任务和多个接口。

# Interactive chat
localgpt chat

# Single question
localgpt ask "What is the meaning of life?"

# Run as daemon with HTTP API and web UI
localgpt daemon start

单一二进制 —— 无需 Node.js、Docker 或 Python

本地设备聚焦 —— 完全在你的机器上运行，你的数据保留在你这里

持久化记忆 —— 基于 markdown 的知识库，支持全文和语义搜索

混合网络搜索 —— 原生提供商搜索直通加客户端侧后备

自主心跳 —— 委派任务并让它在后台工作

多个接口 —— CLI、Web UI、桌面 GUI、Telegram bot

纵深防御安全 —— 签名策略文件、内核强制沙箱、提示注入防护

多个 LLM 提供商 —— LM Studio、Ollama、Anthropic、OpenAI、xAI、GLM、Vertex AI、CLI 提供商

内存和配置

LocalGPT 使用 XDG 兼容目录存放配置/数据/状态/缓存。运行 localgpt paths 查看已解析的路径。

工作区内存布局：

<workspace>/
├── MEMORY.md     # Long-term knowledge (auto-loaded each session)
├── HEARTBEAT.md  # Autonomous task queue
├── SOUL.md       # Personality and behavioral guidance
└── knowledge/    # Structured knowledge bank

文件使用 SQLite FTS5 索引进行关键词搜索，使用 sqlite-vec 进行本地嵌入的语义搜索。

LLM 配置

存储在 <config_dir>/config.toml：

通过 LM Studio 的本地模型（无 API 密钥，完全离线）：

[agent]
default_model = "openai/qwen/qwen3.5-35b-a3b"

[providers.openai]
api_key = "lm-studio"
base_url = "http://127.0.0.1:1234/v1"

云提供商（Anthropic、OpenAI 等）：

[agent]
default_model = "claude-cli/opus"

[providers.anthropic]
api_key = "${ANTHROPIC_API_KEY}"

完整配置参考：website/docs/configuration.md

安全

内核强制沙箱 —— Linux 上的 Landlock/seccomp、macOS 上的 Seatbelt

签名策略文件 —— HMAC-SHA256 签名的 LocalGPT.md，带篡改检测

提示注入防护 —— 标记剥离、模式检测、内容边界

审计链 —— 哈希链式安全事件日志

安全文档：website/docs/sandbox.md | website/docs/localgpt.md

API

完整 API 参考：website/docs/http-api.md

CLI 命令

localgpt chat                   # Interactive chat
localgpt ask "question"         # Single question
localgpt daemon start           # Start daemon
localgpt memory search "query"  # Search memory
localgpt config show            # Show config
localgpt paths                  # Show resolved paths

完整 CLI 参考：website/docs/cli-commands.md

可探索的世界作为 Agent Skill

我为什么在 4 晚上用 Rust 构建了 LocalGPT

技术栈：Rust、Tokio、Axum、Bevy、SQLite（FTS5 + sqlite-vec）、fastembed、eframe