日本地址抽取组件对歧义编码拒答
ja-address-ner-v1 先识别并拆分日本地址,再通过字典关联官方市町村代码,遇到歧义时返回未确定。封闭测试的地址跨度 F1 为 0.9983,4814 条测试地址中未出现错码,含代码匹配的 CPU 耗时约为每条 22.5 毫秒。
AI 深度解读
从文本里圈出日本地址,和给它填上正确的市区町村代码,是两道题。ja-address-ner-v1 用模型找地址、拆字段,再用公开数据构建的字典查代码。查不出唯一结果,就返回 undetermined。
作者在 5,000 条封存测试样本上测得地址片段 F1 为 0.9983,报告中的 4,814 个测试地址没有一次错填代码。这个结果来自合成数据。对做数据录入或清洗的团队,更值得看的是它怎么处理缺失值,以及拒绝猜测会牺牲多少自动填充率。
地址识别得再准,代码也要单独查
第一阶段是词元分类(token classification)。模型先从一段文字里圈出地址,再标出都道府县、市区町村、町域、街道门牌号和建筑物。地址片段用完全匹配计分,边界对上才算命中。作者报告的片段 F1 为 0.9983,组件 Micro F1 为 0.9965。分项来看,都道府县是 1.0000,市区町村是 0.9945,町域是 0.9924,街道门牌号是 0.9995,建筑物是 0.9985。另有 500 条无地址句子的测试,误检为 0。
第二阶段用字典把识别结果关联到官方市区町村代码。模型能认出某段文字是町域,字典还得确认它归哪个市区町村。遇到同名町域且上下文不足,或者查不到对应地址,流程就保留 undetermined。
下面这段 Python 代码负责加载第一阶段的分词器和模型。
from transformers import AutoModelForTokenClassification, AutoTokenizer
tokenizer = AutoTokenizer.from_pretrained("japan-opendata/ja-address-ner-v1")
model = AutoModelForTokenClassification.from_pretrained("japan-opendata/ja-address-ner-v1")
最后一行加载的是词元分类模型。要跑完提取、拆分和代码关联,还得看 examples/infer_address.py,并按 linker/DICTIONARY-SETUP.md 用 Japan Post 邮编数据和 Digital Agency 的 Address Base Registry 自建字典。作者把字典留在模型包之外,市区町村合并或拆分后,可以更新字典来跟进行政区划变化。
测试里的零错填,靠的是允许漏填
作者只跑了一次封存测试的最终评估。在设计上可确定代码的样本里,代码分配准确率是 0.9924,所有失误都是过度拒绝,也就是本来能填,系统却留空。在设计为不可确定的样本里,正确拒绝率是 1.0000。跨全部 4,814 个测试地址,错填代码为 0。
训练、开发和封存集分别有 100,000、5,000 和 5,000 条,作者检查过跨集合重叠。地址由两套采用 PDL 1.0 的公开数据拼成虚构样本,再嵌入 NVIDIA 的 Nemotron-PII-Japan(CC BY 4.0)语境和模板句。整套数据没有使用真实个人地址。省略字段、沿用旧地名、门牌写法变体和口语上下文都可能拉低真实表现,作者没有测过会降多少。
项目按 Apache 2.0 发布,附带 ONNX 模型。作者用 200 条开发样本和 200 条封存样本比较 ONNX(fp32)与 PyTorch,地址边界、组件和字典输出完全一致。Core i7-11700F 上,包含字典关联的端到端耗时约为每条 22.5 ms。邮编分配和完整的门牌号写法归一化仍由下游处理。
我的判断
我认同把错填和漏填分开计数。代码一旦成为入库字段,后续分组、筛选或关联表都可能沿用这个值。留空至少能让界面提示补全,或者把记录送到人工核对。这个取舍成立的前提是业务能容纳待确认记录,也有人维护字典。如果提交时必须有代码,拒绝的成本就会转移到录入和审核环节。
对于字段齐全的地址表单,直接查主数据表也能实现唯一匹配。模型的作用更容易体现在备注、工单这类自由文本里,因为系统得先找到地址。模糊匹配可以给拼写变体提供候选,再让用户确认。原文没有给这些做法的对照数据,也没有测真实输入的拒绝率。零错填是这次封存测试的实测结果,至于整条方案在生产里是否更划算,仍是作者的工程判断。
能拿来做什么
- 在 Node 接口里把原文、拆出的地址字段和代码状态分开返回。前端收到
undetermined时,可以保留已识别的内容,并请用户补充市区町村或确认候选。 - 接入前用自己业务里脱敏的输入做一轮验证,覆盖省略写法、旧地名和同名町域,分别统计地址提取失败、代码错填和本可填却留空的次数。
- 给字典记录数据来源和构建日期。更新公开数据时,用固定样本回查已有代码与拒绝结果,方便定位行政区划变更带来的差异。