7.0
热点
AI SCORE
开源项目2025-04-04 00:32
本地 LLM 性能基准测试工具
Hacker News · localscore.ai#开源#基准测试#本地推理
Editor brief · 编辑速览
开源工具快速评估本地运行的大模型性能，助力开发者模型选型和优化。
运行 LocalScore 有两种方式。最简单的入门方式是下载官方模型之一。如果你已经有 .gguf 模型，可以用它们运行 LocalScore。
localscore-0.9.3.exe -m Llama-3.2-1B-Instruct-Q4_K_M.gguf
curl -OL https://localscore.ai/download/localscore-tiny
chmod +x localscore-tiny
./localscore-tiny
chmod +x localscore-0.9.3
./localscore-0.9.3 -m path/to/model.gguf
遇到 CLI 客户端问题？查看故障排除指南。
关于 LocalScore CLI 的更多文档，请查看 README。