自适应并行解码加速 LLM 推理

当前浏览上下文：

参考文献与引用

BibTeX 格式的引用

arXivLabs 是一个框架，协作者可以通过它直接在我们的网站上开发和分享 arXiv 的新功能。

与 arXivLabs 合作的个人和组织都认同并接受我们所秉持的价值观：开放、社区、卓越和用户数据隐私。arXiv 致力于坚守这些价值观，并且只与同样遵循这些价值观的合作伙伴开展合作。

你是否有能为 arXiv 社区创造价值的项目构想？进一步了解 arXivLabs。