Blast：Web 浏览 Agent 高速服务引擎

一个用于网页浏览 AI 的高性能服务引擎。

我想为应用添加网页浏览 AI... BLAST 通过 OpenAI 兼容的 API 为网页浏览 AI 提供服务，内置并发和流式处理能力。

我需要自动化工作流程... BLAST 将自动执行缓存和并行化，以降低成本并实现交互级别的延迟。

只想在本地使用... BLAST 确保您保持在预算范围内，不会占用计算机的内存。

pip install blastai && blastai serve

from openai import OpenAI

client = OpenAI(
    api_key="not-needed",
    base_url="http://127.0.0.1:8000"
)

# Stream real-time browser actions
stream = client.responses.create(
    model="not-needed",
    input="Compare fried chicken reviews for top 10 fast food restaurants",
    stream=True
)

for event in stream:
    if event.type == "response.output_text.delta":
        print(event.delta if " " in event.delta else "<screenshot>", end="", flush=True)

OpenAI 兼容 API

OpenAI API 的直接替代品

高性能

自动并行化和前缀缓存

流式处理

将浏览器增强的 LLM 输出流式传输给用户

并发

开箱即用支持多用户，配合高效的资源管理

访问文档了解更多。

非常好！详情请参阅我们的贡献指南。

开源虚拟机即服务