7.0
热点
AI SCORE
开源项目2024-07-21 19:39
Txtai:极简向量搜索与 RAG 框架
Hacker News · neuml.github.io#RAG#向量检索#开源
Editor brief · 编辑速览
轻量级开源向量搜索引擎,代码简洁易上手,特别适合快速原型化 RAG 应用和小型部署场景。
txtai 是一个全能 AI 框架,用于语义搜索、LLM 编排和语言模型工作流。
txtai 的关键组件是一个嵌入数据库,它是向量索引(稀疏和密集)、图网络和关系数据库的联合。
这个基础支持向量搜索,并为大语言模型(LLM)应用提供强大的知识源。
构建自主智能体、检索增强生成(RAG)流程、多模型工作流等。
txtai 功能概览:
🔎 向量搜索,支持 SQL、对象存储、主题建模、图分析和多模态索引
📄 为文本、文档、音频、图像和视频创建嵌入
💡 由语言模型驱动的管道,运行 LLM 提示、问答、标签化、转录、翻译、摘要等功能
↪️️ 工作流,将管道连接在一起并聚合业务逻辑。txtai 进程可以是简单的微服务,也可以是多模型工作流。
🤖 智能体,智能连接嵌入、管道、工作流和其他智能体,可自主解决复杂问题
⚙️ Web 和模型上下文协议(MCP)API。提供 JavaScript、Java、Rust 和 Go 的绑定。
🔋 开箱即用,包括默认配置让您快速启动
☁️ 在本地运行或通过容器编排横向扩展
txtai 使用 Python 3.10+、Hugging Face Transformers、Sentence Transformers 和 FastAPI 构建。txtai 在 Apache 2.0 许可证下开源。
NeuML 是 txtai 的公司,我们提供围绕我们堆栈的 AI 咨询服务。安排会议或发送消息了解更多。
我们也正在构建一个简单且安全的方式,通过 txtai.cloud 运行托管的 txtai 应用。