8.0
热点
AI SCORE
开源项目2024-12-07 03:59
DSPy:编程代替 Prompt 调优 LLM
Hacker News · dspy.ai#开源#LLM框架#编程工具
Editor brief · 编辑速览
Stanford 开源框架,用编程范式替代繁琐的 prompt 工程,通过定义计算图和优化目标来提高 LLM 应用的可维护性和性能。
DSPy 是一个用于构建 AI 系统的 Python 框架。将你的任务表达为结构化签名而不是提示词,以生成可维护、模块化和可优化的程序。
将任务定义为类型化的输入和输出,而不是管理混乱的提示词。可移植、可维护且易于迭代。
推理、运行集成、使用工具、添加 REPL 等,无需重写任务。
它会自动调整提示词直到质量收敛。
自 2022 年 12 月起公开开发。
DSPy 始于斯坦福 NLP 研究,发展成了一个研究社区。新的优化器和模块类型首先在这里发布——然后出现在你所知道的公司的生产系统中。