领域特定语言模型的构建完整指南：从选型到推理

选择基础模型并验证适配度

在编写任何训练脚本之前，请先确认基础模型是否理解你的领域。Oxlo.ai 托管 45 多个开源和专有模型，包括 Llama 3.3 70B、Qwen 3 32B、DeepSeek V3.2 和 DeepSeek R1 671B MoE。由于该平台完全兼容 OpenAI SDK，你可以用几行 Python 代码来基准测试候选模型。

from openai import OpenAI

client = OpenAI(
    base_url="https://api.oxlo.ai/v1",
    api_key="YOUR_OXLO_API_KEY"
)

response = client.chat.completions.create(
    model="llama-3.3-70b",  # verify exact slug in Oxlo.ai docs
    messages=[
        {"role": "system", "content": "You are a medical coding assistant."},
        {"role": "user", "content": "Summarize ICD-10 category J44."}
    ]
)
print(response.choices[0].message.content)

在多个模型上运行此代码，找到微调项目的最佳起点。

生成合成训练数据

高质量数据集通常是瓶颈所在。引导领域特定数据的可靠方法是使用大型推理模型生成指令-回复对，然后策划和过滤输出结果。Oxlo.ai 的 DeepSeek R1 671B MoE 和 Qwen 3 32B 非常适合用于这个生成步骤。

def generate_synthetic(prompt, model="deepseek-r1-671b"):
    resp = client.chat.completions.create(
        model=model,
        messages=[{"role": "user", "content": prompt}],
        temperature=0.7
    )
    return resp.choices[0].message.content

# Generate 100 instruction-response pairs for your domain,
# then manually review before adding them to your training corpus.

将结果保存到 JSONL 文件，其中包含用于监督微调的 messages 键。

准备和分词数据集

合并真实和合成数据，然后将所有内容格式化为聊天模板。TRL 库需要消息字典列表。

from datasets import load_dataset

dataset = load_dataset("json", data_files="synthetic_data.json")