给句子加一个目标语言标记,MADLAD-400 就按这个方向翻译

新模型猫目发布于 来源:MADLAD-400 3B MT 官方资料
它把翻译方向放在输入开头,适合观察同一份短文本在不同语言之间怎样转换。

为什么值得关注

以明确目标语言标记调用多语翻译模型,建立短文本研究流程。

适合谁:希望自行研究多语翻译、核对不同语言结果的开发者

这次有哪些亮点

  • 使用目标语言前缀指定翻译方向
  • 3B MT与语言模型检查点分开
  • 公开原始权重与转换模型入口

使用前需要知道

Apache 2.0;不同语言质量不一,研究模型未充分评估生产用途。官方Hub模型卡包含第三方转换说明。

给模型一句话,希望它翻成葡萄牙语,MADLAD-400 的接口做法很直接:在句子前面加一个表示目标语言的标记。它不需要把“请翻译”写成长段对话,翻译方向本身就是模型输入约定的一部分。

如果你想自行研究一组短文本的多语转换,这个接口值得看看。本文介绍的是3B机器翻译型号,不能把同一项目的数据集、语言模型和不同大小的翻译权重混成一个东西。

官方示例里,标记如何决定结果

Hub模型卡用一句简短英文作示例,在开头加入 <2pt>,再送给分词器和T5条件生成模型,展示得到葡萄牙语输出。这里的标记不是要求它解释某种语言,而是指定本次生成的目标语言。

它带来的一个实际便利,是同一批输入可以明确记录各自的翻译方向。若研究同一句提示在几种目标语言中的结果,可以把原句、目标标记、模型型号和译文保存在一起,不必从聊天记录里倒推当时的要求。

标记也不能随便写成自己想到的缩写。语言选择应依据模型提供的代码与词表;不在约定里的标记,不应被当作有效参数。

覆盖范围和评估范围,是两件事

MADLAD-400名称里的400,来自多语言研究背景。模型卡描述翻译模型覆盖400多种语言,同时明确,研究只在其中204种语言上进行了评估。能接受一种语言,与已经在那种语言上得到充分验证,并不是一回事。

这尤其影响低资源语言的选择。一个常见语言示例顺利输出,不能代替你目标语言的检查。更有帮助的做法是选一小组能由懂该语言的人判断的短句,包含名称、数字、否定和问句,再记录哪些内容被遗漏或改变。

这一组短句可以成为今后换模型时继续使用的对照材料。它比把某一次译文读得通顺,就推断整类材料都可靠,更容易积累有用判断。

下载时先看清原始与转换入口

Google Research仓库列出了原始检查点和词表,并区分机器翻译模型与语言模型。Hub页面的模型卡另有说明:权重转换及该卡编写由未参与原研究的贡献者完成,示例中也沿用了转换模型的标识。

因此,复查结果时应把实际加载的仓库和文件版本一起记下。不能只写“用了MADLAD”,却省略3B还是其他规模、原始权重还是转换格式。项目开放许可为Apache 2.0,也不意味着每种转换文件的运行条件都完全相同。

模型卡将它主要定位为研究用途,提醒通用领域训练不保证专门领域效果,生产应用也未得到充分评估。它适合提供一个可控的翻译起点:输入怎样标注,输出朝哪个语言方向生成,哪些句子需要重新判断,都能在自己的记录里留下来。

原始资料:MADLAD-400 3B MT 官方资料

以上为编辑整理,功能、许可与使用条件以官方说明为准。

返回每日分享