AI项目必用库选型指南

有了合适的库，任何开发者都可以为他们的应用构建强大的 AI 功能（就像忍者一样 🥷）。

在这个列表中，我编译了 7 个很棒的 AI 库，你可以用它们来（相对）轻松地交付今天的功能。

别忘了给这些库加星标来表示支持。

1. CopilotPortal：构建应用原生 AI 聊天机器人

应用内 AI 聊天助手，可以"看到"你当前的应用状态并在前端和后端执行操作。

一套完全可定制的 React 组件和 hooks，以及建立 LLM 与你应用之间交互的架构。

定义 useMakeCopilotReadable、useMakeCopilotActionable 和 CopilotSidebarUIProvider 来启动它。

import "@copilotkit/react-ui/styles.css";
import { CopilotProvider } from "@copilotkit/react-core";
import { CopilotSidebarUIProvider } from "@copilotkit/react-ui";

export default function App(): JSX.Element {
  return (
  <CopilotProvider chatApiEndpoint="/api/copilotkit/chat">
      <CopilotSidebarUIProvider>

        <YourContent />

      </CopilotSidebarUIProvider>
    </CopilotProvider>
  );
}

为 CopilotPortal 加星标 ⭐️

2. RAGxplorer - 可视化和探索你的 RAG 文档

RAGxplorer 是一个 Python 工具，用于在机器学习和自然语言处理中可视化 RAG（检索增强生成）文档。

交互式地探索在你的 RAG 流程中使用的文档中的连接和内容。

要设置 RAGxplorer，在代码中定义你的 RAG 检查点路径并安装指定的依赖。

import streamlit as st
from utils.rag import build_vector_database

st.set_page_config(page_title="RAGxplorer", page_icon="🔍")
uploaded_file = st.file_uploader("Upload your PDF", type='pdf')
query = st.text_input("Enter your query")
search = st.button("Search")
top_k = st.number_input("Number of Chunks", value=5, min_value=1)
st.session_state["chroma"] = build_vector_database(uploaded_file, ...)
st.session_state['retrieved_id'] = query_chroma(...)
plot_embeddings(...)

3. Tavily GPT Researcher - 让 LLM 搜索网络和数据库

Tavily 使你能够将 GPT 驱动的研究和内容生成工具添加到你的 React 应用中，增强了它们的数据处理和内容创建能力。

# Create an assistant
assistant = client.beta.assistants.create(
    instructions=assistant_prompt_instruction,
    model="gpt-4-1106-preview",
    tools=[{
        "type": "function",
        "function": {
            "name": "tavily_search",
            "description": "Get information on recent events from the web.",
            "parameters": {
                "type": "object",
                "properties": {
                    "query": {"type": "string", "description": "The search query to use. For example: 'Latest news on Nvidia stock performance'"},
                },
                "required": ["query"]
            }
        }
    }]
)

4. Pezzo.ai - 开发者优先的 LLMOps 平台

用于管理你的 OpenAI 调用的集中平台。

优化你的 prompts 和 token 使用。追踪你的 AI 使用情况。

免费且易于集成。

const prompt = await pezzo.getPrompt("AnalyzeSentiment");
const response = await openai.chat.completions.create(prompt);

5. DeepEval - 评估 LLM、RAG 和微调性能

DeepEval 是一个开源框架，通过将评估视为单元测试来简化 LLM 的评估。

它提供了各种指标来评估 LLM 的输出，其模块化设计允许开发者自定义他们的评估流程。

要使用它，你需要安装库、编写测试用例，然后运行这些来评估你的 LLM 的性能。

Pytest Integration: 

from deepeval import assert_test
from deepeval.metrics import HallucinationMetric
from deepeval.test_case import LLMTestCase

test_case = LLMTestCase(
 input="How many evaluation metrics does DeepEval offers?",
 actual_output="14+ evaluation metrics",
 context=["DeepEval offers 14+ evaluation metrics"]
)
metric = HallucinationMetric(minimum_score=0.7)

def test_hallucination():
  assert_test(test_case, [metric])

6. CopilotTextarea - React 应用中的 AI 驱动写作

一个 react <textarea> 的替代品，具有 Github CopilotX 的功能。

自动补全、插入、编辑。

可以实时或提前由开发者提供任何上下文。

import { CopilotTextarea } from "@copilotkit/react-textarea";
import { CopilotProvider } from "@copilotkit/react-core";

// Provide context...
useMakeCopilotReadable(...)

// in your component...
<CopilotProvider>
    <CopilotTextarea/>
</CopilotProvider>`

为 CopilotTextarea 加星标 ⭐️

7. SwirlSearch - AI 驱动的搜索

Swirl Search 是一个开源平台，使用 AI 同时搜索多个数据源并为它们提供草拟的报告。

它可以跨越各种来源进行搜索，包括搜索引擎、数据库和云服务，并且设计成通过遵循仓库中提供的安装说明来轻松设置。

Swirl Search 构建在 Python/Django 栈上，在 Apache 2.0 许可证下发布，并以 Docker 镜像的形式可用，使其对用户来说易于访问和自定义。

感谢阅读！别忘了为本文加书签、给予你的反应，以及支持和查看上面提到的很棒的库。

进一步的行动，你可能会考虑屏蔽这个人和/或报告滥用行为。