8.0
热点
AI SCORE
技术实践2026-11-17 05:20
自然语言查表应拆分意图与执行
dev.to · AI#数据库#大模型安全#自然语言查询
Editor brief · 编辑速览
文章指出,让 LLM 直接生成 SQL 可能导致字段幻觉、运算符错误、租户过滤遗漏和提示注入。其核心建议是分离查询意图与执行,避免让模型直接掌握 SQL 语法和安全边界。
文章思维导图
Knowledge map
AI brief
原文暂未完整获取,基于公开信息的快读
让 LLM 把自然语言直接翻译成 SQL,接上真实数据库后,风险不只是查询报错。dev.to 的这篇文章列出了字段幻觉、运算符选错、租户过滤遗漏和提示注入等问题,并提出一条边界:模型描述查询意图,确定性代码负责校验和执行。
目前能确认什么
作者的方案是让 LLM 输出 JSON,描述数据来源、过滤字段、运算符和值,再由作者编写的 filtersql 将其编译成参数化 SQL。
节选展示了两层约束:用 Pydantic 限定可选数据来源和运算符;编译时通过 allowed_columns 检查字段,通过服务端 scope 加入租户条件。示例中,模型生成了不存在的 full_name 字段,按示例逻辑会被拒绝。
这里要分清几件事。参数化查询将值与 SQL 语法分开;字段白名单约束能查什么;租户条件限制能看到谁的数据。它们各管一部分,不能互相替代。
JSON 只是更容易校验的接口,格式正确不等于查询正确。
我的判断
对正在做自然语言查表的程序员,最有用的启发是:权限条件应由服务端根据登录身份强制加入,不能指望模型记得补上。
这套拆分也没有消除语义错误。用户要求「至少」,模型却选择 >,结果仍可能通过结构校验。节选中的 field 还是普通字符串,字段幻觉实际依靠后续白名单拦截。
因此,我会把「生成可校验的查询草案」作为模型职责。至于 filtersql 是否覆盖复杂条件、不同查询结构下的租户隔离,以及查询数量和执行耗时限制,现有节选没有交代。作者也承认库并不完美,不能把示例中的拦截效果当作完整的安全保证。