招聘信息抽取模型压缩至四亿参数

Job Opportunities API（JOA）的作者发布了招聘信息抽取模型 joa-job-extractor-400m-gguf，采用 Apache 2.0 许可，称可在 8GB 显存的 GTX 1070 上运行。它主要补上规则遗漏的薪资信息，目标是降低批量调用托管大模型的成本。

目前能确认什么

先厘清「四亿参数」：底座是 IBM Granite 3.1 1B-A400M，采用混合专家架构（MoE），总参数约十亿，每个 token 激活约四亿参数。

四亿是激活参数量，不是模型总参数量。

作者用较大模型为约 47,300 份岗位材料生成标签，再过滤或修正缺乏原文依据的值，用于训练学生模型。输入也不只是招聘正文，还包括结构化岗位数据、雇主招聘系统记录等，通常有 4,000 至 5,000 个 token。

在作者的 100 条留出岗位测试中，学生模型与对照的 27B 通用模型均得分 0.926。这是特定任务的逐字段评分，不能视为通用能力相当。8GB 显卡对应推理；标签生成、训练和评估使用了 H200。

实际流程仍是规则优先，规则没找到薪资才调用模型。作者报告，模型返回的 271 个薪资金额中，有 8 个未出现在原文里；薪资周期也可能配错。

我的判断

对做招聘聚合、数据清洗的程序员，这个项目更有参考价值的是「规则兜底之外再补一层模型」的流程。边界明确的抽取任务，值得单独训练和验证小模型。

但「数字出现在原文」只能排除部分编造，不能证明模型选对了薪资数字、币种和计薪周期。入库前仍需检查字段之间是否一致。

节选没有给出薪资召回率提升后的完整结果，也未展示中文招聘文本的测试。模型还依赖训练时的固定 prompt。迁移到国内岗位数据前，最该验证的是中文薪资表达的覆盖率，以及错误金额通过校验的比例。