通过Ollama在Cursor中本地运行DeepSeek-R1的实操教程,适合Cursor用户降低成本。
各位,虽然有很多使用本地 LLM 的选项,但 DeepSeek-R1 是几周前发布的。如果你想在 Cursor 中使用 Ollama/本地 LLM,我可以帮你。
首先,你需要安装 Ollama。安装后,你需要为 Ollama 配置 CORS,这是必需的,否则 Cursor 会返回 403 Forbidden。如你所见,我们需要在 Windows 环境中定义 OLLAMA_ORIGINS。
接下来,我们需要 deepseek-r1 模型。我尝试了 deepseek-r1:8b,因为这个模型有很好的基准测试成绩。这个模型在我的电脑上运行,配置是 Nvidia RTX 3070 8GB(足够的 VRAM,我的速度是 60-70t/s)。我们可以使用
ollama run deepseek-r1:8b
然后模型开始下载。下载完成后,我们可以通过 Windows 任务栏图标或其他方式退出 Ollama。我们需要关闭它以重启 Ollama,因为我们定义了 CORS。
然后你可以通过开始菜单运行 Ollama。
默认情况下,Ollama 的服务端点是 http://127.0.0.1:11434,但如果你直接在 Cursor 中使用这个端点,它无法工作。所以我们需要 ngrok。你可以下载并登录它,然后它会指示你通过身份验证令牌进行登录。
接下来,我们需要使用 ngrok 为 Ollama 提供公共 URL。
.\ngrok.exe http 11434 --host-header="localhost:11434"
然后我们获得了 OpenAI 公共 URL 的端点。
你可以检查你的端点是否活跃。
好的,我们转向 Cursor。
我们需要在 Cursor 中定义要使用的模型。你可以使用 ollama list 来查看你拥有的模型列表。
在 OpenAI Key 中,使用你的公共 URL https://xxxxxx.ngrok-free.app,API Key 使用 ollama,这样就完成了。
完成这些步骤后,我们可以通过 Cursor Chat 尝试一些模型。
如你所见,本地 LLM 在某些情况下运行正常,但不支持 Composer,因为 Cursor 仅允许 Anthropic 和 GPT 模型。
对于进一步的操作,你可能会考虑阻止此人和/或报告滥用。