多语言教师模型：系统评估语言模型在多语种合成监督微调数据生成中的有效性 Polyglot Teachers: Evaluating Language Models for Multilingual Synthetic Data Generation
POLYGLOT SCORE评估10个LM多语种教学能力，规模非关键因素。
前置知识
监督微调（Supervised Finetuning, SFT）
SFT是在预训练语言模型基础上，使用人工标注或合成的(prompt, response)对继续训练，使模型对齐到具体任务或指令的过程。多语种SFT需要目标语言的高质量指令-回答对，但这类数据在低资源语言中极为稀缺。
本文核心问题是多语种SFT数据合成，读者需要先理解SFT的训练范式和它对训练数据规模与质量的依赖性。本文评估的所有教师-学生链路都建立在SFT流程之上，OLMo 3 7B等基座就是通过2 epoch SFT把合成数据能力传递给学生，附录E列出了完整SFT超参与硬件配置，是实践复现的关键依据。这些设置使240个学生微调具有可复现性。
知识蒸馏与教师-学生模型（Teacher-Student Distillation）
在合成数据场景中，大型语言模型充当教师生成训练样本，小型学生模型通过在这些合成数据上微调来学习教师的能力。传统蒸馏注重logit匹配或on-policy学习，本文则把焦点放在教师生成的数据能否教好学生这个更实用的问题上。
理解这一框架是把握PG-SCORE设计的必要前提。PG-SCORE本质上是用学生下游表现作为教师质量的外部衡量，正是把蒸馏从logit层降到数据层的一种新视角，也是论文第3节所有教师-学生配对实验（如Gemma 27B→OLMo 7B）的理论基础，没有这个视角就无法理解为何教师排名与基准分无关。这是PG-SCORE超越单纯基准评估的核心价值。
内在数据质量与外在学生表现（Intrinsic vs. Extrinsic Evaluation）
内在指标直接评估生成数据本身的属性（如多样性、流畅度、困惑度），不依赖下游任务；外在指标则通过训练学生模型并测其在目标基准上的表现来间接评估数据价值。两种方法各有盲点：好的数据未必带出好学生，强学生也可能过拟合。
PG-SCORE的核心创新正是把这两种互补视角统一为一个标量分数。如果读者只熟悉其中一种评估范式，将无法理解为什么作者要在同一篇论文中既报告M-Prometheus reward（内在）又报告学生基准PGR（外在），也无法理解附录G.4中$\alpha$加权敏感度分析的存在意义与稳健性结论。读者必须理解内外指标的相对独立性。
Performance Gap Recovered (PGR)
PGR度量学生相对基座提升占参考模型与基座差距的比例，定义见公式2：$\mathrm{PGR}=\frac{1}{|B|}\sum\frac{\mathrm{score}_b(S_{T,\ell})-\mathrm{score}_b(S_\phi)}{\mathrm{score}_b(S_{\mathrm{REF}})-\mathrm{score}_b(S_\phi)}$，能跨基准反映恢复程度。
PG-SCORE的外在部分直接采用PGR，读者必须理解它如何把Global-MMLU Lite、M-RewardBench、M-GSM三个不同尺度的基准折算为可比较的单一信号，否则无法读懂表1和表12中跨教师-语言对的横向比较，也难以理解PGR如何为$\mathrm{Extr.}_{T,\ell}$的归一化提供统一尺度。
主成分分析（PCA）与模型家族匹配（Family Matching）
PCA用于把高维内在指标压缩到少量主成分，识别方差来源；模型家族匹配指选用与学生相同预训练家族（如Gemma学生配Gemma教师）的教师，因为tokenizer与预训练分布的相似性会促进知识传递。
本文第4节核心结论之一是PCA前4个主成分解释了93.3%方差，且教师-学生家族对齐带来至少+20.5%的PG-SCORE提升（表14）。理解这两个工具是把握"内在→外在"预测逻辑和家族匹配启发式的必要条件，也是工程上用便宜指标替代昂贵学生微调的基础。这一发现可推广到所有教师-学生配对场景。这是工程落地时重要的启发。
研究动机
在多语种监督微调中，合成prompt-response对已成为应对低资源语言数据稀缺的主流方案，但业界在选择教师模型时高度随意——几乎都默认采用最大或最流行的SOTA模型。这种做法存在严重隐患：即便在英文基准上表现强劲，大模型在非英文语言上仍可能存在显著能力缺口，由此生成的合成数据会把教师的弱项继承给学生，导致低资源语言的SFT效果甚至不如从公开数据训练。具体表现如论文表1：Llama 3.1 70B Instruct作为参数量最大的开源模型之一，平均PG-SCORE仅为0.140，排在10个教师中的第9位，远低于参数量更小的Gemma 3 27B（0.726）和Aya Expanse 32B（0.706）。这种规模与效果倒挂的现象暴露了行业默认教师选择策略的系统性偏差。
本文的目标是本文的目标是建立一个系统、可量化的多语种教师模型评估框架，识别真正决定教师效果的特征，并据此给出可操作的合成数据配方。具体而言，作者希望回答三个核心问题：(1)在6种类型学多样语言（阿语、捷克语、德语、西语、印尼语、日语）上，哪些现役LM是有效的多语种教师；(2)传统假设——模型越大、基准分越高则越好——是否在多语种场景下仍然成立；(3)不同数据生成方法（Generate少样本生成、Translate英文翻译、Respond目标语言应答）以及教师-学生模型家族匹配对最终学生效果的影响如何。论文第3.1-3.3节分别用1.4M+合成样本和240个学生微调给出系统答案。
与已有工作不同的是，已有研究通常孤立评估教师，要么只看外在学生表现（Kim et al., 2025, 仅限英文），要么只看内在数据质量（OpenDataArena），且绝大多数工作集中在英语。本文则首次提出把内在质量与外在表现合成为一个分数POLYGLOT SCORE，跨6种类型学差异显著的语言（阿语、捷克语、德语、西语、印尼语、日语）系统比较10个教师，并基于10k样本/语言和240个学生微调提供可复现的实证依据。独特切入点是强调数据质量（多样性、长度、流畅度）比模型规模或基准分更能预测教师有效性，并给出一份面向低资源语言的合成数据recipe。
核心方法
本文的整体思路是构造一个名为POLYGLOT SCORE（PG-SCORE）的综合指标，同时度量教师生成数据的内在质量和学生在下游任务上的外在表现，再把两者z-score化合并成一个标量。在数据生成阶段，作者从10个教师模型和6个目标语言出发，用三种主流合成方法（Generate少样本生成、Translate从英文翻译、Respond直接回答目标语言prompt）各产生等量样本，组成多语种种子数据集蒸馏出的合成训练集；接下来用OLMo 3 7B做学生基座，监督微调得到学生模型，然后用Global-MMLU Lite、M-RewardBench、M-GSM三类基准计算PGR作为外在分数；内在分数由Llama-Embed-Nemotron-8B计算的cosine多样性、基座模型对响应的困惑度，以及M-Prometheus 14B的多语种LLM-as-a-judge得分按z-score平均得到。最终PG-SCORE是内外分数之和的z-score。这套方法的好处是：可以脱离学生训练用纯内在指标快速筛选候选教师，节省算力。
核心创新有两点。第一，把"教师有效性"重新定义为同时考虑数据本身和下游效果的复合指标PG-SCORE，从而纠正"越大越好"的固有偏见——本文在10个模型上证明参数规模和平均多语种基准分对PG-SCORE的预测均不显著（$\beta$分别为0.053和1.387，$p>0.5$）。第二，通过PCA对内在指标做无监督降维，发现前4个主成分（累积方差93.3%）就能以$R^2=0.664$的拟合度预测学生表现，这意味着工程实践中不需要跑240个学生微调，仅用4个内在特征即可对教师做高保真筛选。这两个设计与已有方法（如单一内在或单一外在评估、聚焦英文或聚焦单一基准）形成本质区别。
方法步骤详情
整个方法分四步。步骤1（种子数据集）：为每种目标语言$\ell$聚合Aya Collection、WildChat 4.8M、EuroBlocks-SFT、Magpie-Align等开源多语种指令数据，加入Tülu 3 SFT、Helpsteer3、GSM8K英文样本以模拟翻译场景，共约13.3万条种子。步骤2（合成数据生成）：对10个教师在6种语言上用Generate/Translate/Respond三种方法各生成10.5k对，按官方推荐超参采样，每组合重复3次。步骤3（学生微调与外在评估）：以OLMo 3 7B为基座用Unsloth+GH200做2 epoch SFT，在Global-MMLU Lite、M-RewardBench、M-GSM上计算PGR作为外在分数。步骤4（PG-SCORE合成）：对四个内在指标做z-score归一化平均得到$\mathrm{Intr.}_{T,\ell}$，PG-SCORE定义为$\mathrm{z\text{-}score}(\mathrm{Intr.}_{T,\ell}+\mathrm{Extr.}_{T,\ell})$。
技术新颖性
技术新颖性体现在三个层面。其一，PG-SCORE的二元结构（intrinsic + extrinsic）首次在多语种SFT数据生成场景下被形式化为单一可比较标量，并把z-score归一化扩展到语言粒度，使不同语言间的得分可直接比较。其二，论文给出$\alpha$-加权泛化版本$\mathrm{PG\text{-}SCORE}=\alpha I+(1-\alpha)E$，并证明在$\alpha$从0到1滑动时教师排名仍保持$\rho\geq 0.74$的强相关，表明结论对权重选择不敏感。其三，PCA分解揭示了一个反直觉的事实：影响学生表现的并非单个内在指标，而是它们的主成分组合，特别是PC1（42.2%方差，主要承载响应多样性和低困惑度）和PC2（22.1%，承载prompt多样性与长度）累积解释64.3%方差，这意味着合成数据的"整体协调性"比单项极值更重要。
实验结果
实验基于6种类型学差异语言和10个教师模型、240个学生微调得出四点核心发现。第一，**Gemma 3 27B和Aya Expanse 32B是最有效的多语种教师**：Gemma 3 27B平均PG-SCORE 0.726（最高），Aya Expanse 32B为0.706（次高），而70B的Llama 3.1 70B Instruct仅0.140。Gemma家族统治前五名，Llama家族在多数语言垫底。第二，**模型规模不显著预测教师有效性**：混合效应回归显示log参数量的$\beta=0.053$（$p=0.507$），平均多语种基准分的$\beta=1.387$（$p=0.529$），均不显著。第三，**数据质量主成分可解释学生表现**：4个内在指标的PCA前4个主成分累积解释93.3%方差，拟合线性回归可预测学生效果，$R^2=0.664$、$\mathrm{RMSE}=0.440$。第四，**数据生成方法需按资源分层**：高资源德语上Generate最佳（de=2.140），低资源阿语和印尼语上Translate/Respond能带来+77.7%到+458.9%的相对增益。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| Global-MMLU Lite文化与事实理解 | PGR (Accuracy恢复率) | Gemma 3 27B生成的阿语学生SFT后PGR相对OLMo 3 7B为-0.074；德语最佳学生表现达2.635 PGR | GPT-4o mini同等条件阿语PGR -2.086；德语3.098 | Gemma 3 27B在ar上把负向PGR从-2.086抬升到-0.074，差距恢复约2.0个PGR单位 |
| M-RewardBench多语种对话对齐 | Weighted Accuracy / PGR | Gemma 3 27B教师学生PGR在6语平均最高0.726 | Llama 3.1 8B Instruct仅-0.356 | Gemma 3 27B相对Llama 3.1 8B高约1.08个PG-SCORE单位 |
| M-GSM多语种数学推理 | Exact-Match / PGR | OLMo 3 7B基座经Gemma 3 27B合成数据SFT后M-GSM表现稳定提升 | Llama 3.1 70B Instruct作为教师时学生M-GSM效果不显著 | 在低资源阿语和印尼语上Gemma 3 27B + Translate/Respond方法带来+355%到+453%相对增益 |
| FILBENCH（Tagalog跨语言验证） | FILBENCH综合得分 | 10K-Polyglot-TL 4B达49.52分，25K-Polyglot-TL 4B达49.73分 | 10K-GPT-4oM为47.67，10K-Public为47.24 | Polyglot recipe相对GPT-4o mini基线+1.85pp，相对公开数据基线+2.28pp |
| 家族匹配教师-学生配对 | PG-SCORE相对OLMo 3 7B基线的百分比提升 | Llama 3.1 70B教师+Llama 3.1 8B学生相对OLMo 3 7B提升+260.1%/+362.3% | Gemma 3 27B+OLMo 3 7B家族失配仅+20.5% | 家族匹配可带来额外+20%到+260%的PG-SCORE增益 |
局限与改进
作者明确承认的局限包括：(1)语言样本量仅6种，虽按Ploeger et al. (2026)的类型学原则挑选，但结论在更广语言集上的可推广性仍需验证；(2)Translate方法依赖英文可译prompt，对文化专属内容的本地化能力受限，且会引入"翻译腔"(translationese)伪影；(3)未覆盖on-policy蒸馏等更复杂的蒸馏设置。本文自身的观察还有：(1)Arabic对几乎所有教师都得到负PG-SCORE（最低-1.69），这与低CommonCrawl占比（0.65%）相关（$\rho=0.886, p<0.05$），说明低资源语言的合成数据仍受底层预训练数据分布的结构性制约；(2)内在指标$\mathrm{PPL}$在Llama 3.1 8B上出现极端值（如日语$5.4\times10^4$），说明小模型生成非拉丁文字时容易进入不可控循环，PG-SCORE对这类病态响应缺乏专门的鲁棒性保护；(3)评估完全依赖自动基准和LLM-as-a-judge，缺乏人类评估的对照；(4)实验依赖现成嵌入模型和奖励模型，这些模型的偏置会传递到PG-SCORE。
独立分析的弱点
独立分析可指出三个具体弱点。第一，**评估协议本身存在偏置**：内在reward完全依赖M-Prometheus 14B作为LLM-as-a-judge，而M-Prometheus本身是经过多语种偏好训练的小模型，对Gemma类高质量输出的"天花板"可能产生评分压缩；外在基准Global-MMLU Lite覆盖文化与事实，对生成流畅度不敏感，可能低估翻译方法的真实价值。第二，**数据生成方法的对比范围有限**：仅测试了让LM自身翻译和NLLB-200-distilled-600M两种翻译方式，未覆盖商业翻译API或更大NLLB变体；Generate方法仅在Tülu 3风格的few-shot prompt下评估。第三，**学生基座选择单薄**：核心实验固定OLMo 3 7B控制了家族效应，但代价是不能直接评估教师在生产级学生上的PG-SCORE。
未来方向
作者提出的未来方向包括：(1)在更大语种集（包括真正低资源的非洲、南亚语言）上验证PG-SCORE；(2)把评估扩展到on-policy蒸馏等设置；(3)把内在指标用于在线教师选择（训练早期即可用PCA预测最终学生表现）。基于本文成果可延伸的研究包括：(1)把PG-SCORE的PCA预测器做成可微的代理目标，用于教师模型微调本身，使教师在训练时就最大化与学生表现的协方差；(2)研究家族匹配提升PG-SCORE的具体机制——是tokenizer共享、预训练数据相似还是架构归纳偏置主导，可通过对比同架构不同tokenizer的蒸馏实验来分解；(3)将多教师集成（mixture-of-teachers）按语言自动路由，与本文发现的"低资源语言需Translate/Respond"结合，可能实现按方法+教师的二维路由策略；(4)探索PG-SCORE在RLHF或DPO等后训练阶段作为教师奖励信号的应用。
复现评估
复现性整体较好但成本不低。作者明确开源了代码、数据和模型（HuggingFace ljvmiranda921/polyglot-teachers collection），包含POLYGLOT-INSTRUCTIONS-SYNTH合成数据集和POLYGLOT-GEMMA-SFT学生模型。SFT超参与评估设置在附录E公开（学习率5e-5、batch 32、2 epoch、AdamW、linear schedule、max len 16384），学生训练使用Unsloth框架在Grace Hopper GH200集群完成，每7B模型微调约1.5小时/2节点/2 epoch。240个学生微调的总成本在万卡时级别，单一研究者难以完全复现但可复用其合成数据集和评测脚本。10个教师模型全部来自公开权重（GPT-4o mini除外仅API访问），三种数据生成的prompt模板在附录Figure 10-12中给出。主要复现难点：教师推理时需按官方推荐temperature/top_p/top_k（表17）以保证输出分布一致。
论文图表
左图柱状图展示10个教师模型在OLMo 3 7B、Gemma 3 4B、Qwen 3 8B、Llama 3 8B四个学生基座上的平均PG-SCORE；右图热力图显示教师排名在四个基座间的Spearman秩相关矩阵，范围$\rho\in[0.57,0.87]$，其中Gemma 3 4B与OLMo 3 7B的相关性最高（0.87），Qwen 3 8B与OLMo 3 7B最低（0.57）。
该图证明PG-SCORE的教师排名在不同学生基座上保持稳定，验证了PG-SCORE的跨基座可推广性和家族匹配作为可靠启发式的实证基础，是论文第3.2节实验结论的核心证据。这是PG-SCORE泛化性的关键证据，说明论文结论不依赖于特定的OLMo 3 7B学生基座，对实践选型有直接指导意义。这是PG-SCORE泛化性的关键证据，说明论文结论不依赖于特定的OLMo 3 7B学生基座，对实践选型有直接指导意义。