开源 LLM 成本对比工具，快速选择最优提供商

页面加载出现错误。请重新加载此页面。

通知 您必须登录才能更改通知设置

仓库文件导航

开源LLM推理成本对比

本项目旨在收集来自不同云端和供应商上各类GPU的基准测试数据，并将其与其他供应商提供的固定per token成本进行对比。通过使用我们的平台，您可以为成本高效的LLM选项、经济实惠的语言模型和高效的LLM GPU选择做出明智决策。

我们的综合LLM价格对比工具让用户能够评估多个AI模型，并获得AI模型定价指南的深入洞察。该项目将帮助您为选定的模型找到合适的GPU和云提供商，从而促进GPU推理和LLM GPU基准测试。

请参考CONTRIBUTING.md文件了解如何参与。我们欢迎issue、问题和pull request。如果您对GPU对比、基准测试或AI模型评估有任何见解，请在我们的社区中分享。

Llama 3.1 instruct 8b 对比

Llama 3.1 instruct 70b 对比

供应商来源 本地自托管来源

作为成员、贡献者和领导者，我们承诺为我们社区中的每个人提供无骚扰的参与体验，无论其年龄、身体大小、可见或隐形残疾、种族、性别特征、性别认同和表达、经验水平、教育程度、社会经济地位、国籍、个人外表、种族、宗教或性身份和性取向如何。请参考CODE_OF_CONDUCT.md文件了解有关贡献的更多信息。

本项目从各个云提供商收集GPU基准测试数据，并将其与固定的per token成本进行对比。使用我们的工具进行高效的LLM GPU选择和成本高效的AI模型。LLM供应商价格对比、GPU基准测试到per token价格计算、GPU基准表。