Axilla：开源 TypeScript LLM 应用框架

Axflow 是一组用于构建稳健的自然语言驱动型应用的模块。这些模块可以渐进式采用，从而提供模块化且可扩展的解决方案。组合使用时，它们将构成一个开发 AI 应用的端到端框架。

@axflow/models —— 一个零依赖、模块化的 SDK，用于构建稳健的自然语言应用。其中包含 React hooks 和流式处理工具，让 AI 应用的开发变得轻松自如。

axgen —— 用于将你的数据连接到大语言模型的框架。

axeval —— 用于评估 LLM 输出质量的框架。

除上述模块外，我们还在开发以下模块：

extract：一个用于高效处理数据的库，尤其适合从任意来源加载、转换文档以及对文档进行分块。它对需要为向量搜索加载并预处理数据的应用最为实用。

serve：一个能够运行任意 LLM 模型（无论是开源模型还是其他模型）的服务框架。它还将提供用于用户限流、分析和日志记录的 middleware 选项。

finetune：一个专注于模型微调的库。

Axflow 希望将使用 LLM 时涉及的复杂范式拆解为易于管理、直观易懂的组件。我们的库采用 code-first 的方式，强调灵活性以及开发者掌控能力的重要性。作为一个基础框架，Axflow 让开发者能够顺畅地构建更高层次的 TypeScript AI 功能和产品。

这里有一个开源 UI 示例，展示了我们的第一个模块 axgen 能够实现什么，并附有一段简短的视频演示。