ONNX Runtime：跨平台ML推理加速器

ONNX Runtime 是一个跨平台的机器学习推理与训练加速器。

ONNX Runtime 推理能够为用户提供更快的体验并降低成本，支持来自 PyTorch、TensorFlow/Keras 等深度学习框架的模型，以及 scikit-learn、LightGBM、XGBoost 等经典机器学习库的模型。ONNX Runtime 兼容多种硬件、驱动和操作系统，并通过在适用的场景下利用硬件加速器以及图优化和变换来提供最优性能。了解更多 →

ONNX Runtime 训练能够加速多节点 NVIDIA GPU 上 transformer 模型的训练时间，只需在现有 PyTorch 训练脚本中添加一行代码即可。了解更多 →

快速入门与资源

基本信息：onnxruntime.ai

基本信息：onnxruntime.ai

使用文档与教程：onnxruntime.ai/docs

使用文档与教程：onnxruntime.ai/docs

YouTube 视频教程：youtube.com/@ONNXRuntime

YouTube 视频教程：youtube.com/@ONNXRuntime

即将发布的路线图

即将发布的路线图

配套示例仓库：ONNX Runtime 推理示例：microsoft/onnxruntime-inference-examples ONNX Runtime 训练示例：microsoft/onnxruntime-training-examples

配套示例仓库：

ONNX Runtime 推理示例：microsoft/onnxruntime-inference-examples

ONNX Runtime 训练示例：microsoft/onnxruntime-training-examples

插件 EP 仓库：ONNX Runtime QNN Plugin EP：onnxruntime/onnxruntime-qnn

插件 EP 仓库：

ONNX Runtime QNN Plugin EP：onnxruntime/onnxruntime-qnn

当前版本和历史版本可以在此处查看：https://github.com/microsoft/onnxruntime/releases。

有关即将发布的版本的详细信息，包括发布日期、公告、功能以及提交功能请求的指南，请访问发布路线图：https://onnxruntime.ai/roadmap。

本项目可能会收集使用数据并将其发送给 Microsoft，以帮助改进我们的产品和服务。详细信息请参阅隐私声明。

贡献与反馈

我们欢迎贡献！请参阅贡献指南。

对于功能请求或 bug 报告，请提交 GitHub Issue。

对于一般性讨论或问题，请使用 GitHub Discussions。

本项目已采用 Microsoft 开源行为准则。更多信息请参阅行为准则常见问题解答，或通过 opencode@microsoft.com 联系，提出任何其他问题或意见。

本项目采用 MIT 许可证授权。