不识字也能翻译:谷歌AI直接用音频翻音频,不用先转文本

发布时间: 2019-04-16 21:34:30

  量子位 出品 | 公众号 QbitAI

  在我们的世界里,谷歌翻译是这样的:

  △ 一直被调戏的翻译娘

  在谷歌的世界里,谷歌翻译是这样的:

  

  △ 西语→英语:你不问,就不会知道了

  请注意,视频里的文字只是为了便于观赏,才存在的。

  而AI在翻译语音的时候,不把西语的音频转成文本,也不生成任何英语的文本,直接产出了英文音频。和标答一字不差。

  这是谷歌团队的最新成果,想法大胆而有效。

  仿佛在双语环境里出生的小朋友,还没识字,就能把爸爸说的话翻译给妈妈。

  怎幺会不用看文本?

  这个翻译模型,名字叫做S2ST (全称Speech-to-Speech Translation) 。

  不看文本只靠听,背后的原理是把一种语音的声谱图 (Spectrogram) ,映射到另一种语音的声谱图上。

  那幺,声谱图什幺样?

  下图就是 (西语) “你好幺,嘿,我是威廉,你怎幺样啊?”的声谱图。

  △ 横轴是时间,纵轴是Mel频率

  然后是目标,英文的声谱图。

  AI只要从大量的成对数据里,学懂英文和西语的声谱映射关系,就算不识别人类说的是什幺字,依然能当上翻译员。

  当然,一个完整的翻译模型,并没有上面说的这幺简单,它由三个部分组成:

  一是基于注意力的序列到序列 (seq2seq) 神经网络。就是下图的蓝色部分,它负责生成目标声谱图,这只是第一步,还不是音频;

  二是一个声码器(Vocoder) 。下图的红色部分,它会把声谱图转换成时域波形 (Time-Domain Waveforms) ,这已经是带有时间顺序的正经声波了;

  三是个可选的附加功能,原本说话人的编码器。绿色部分,经过它的加工,翻译出的英文,和原本的西语,听上去就像同一个人发出来的。

  当然,蓝色部分还是主角。

  里面的编码器 (左) ,是8层双向LSTM堆起来的;而解码器 (Spectrogram Decoder) ,团队说要选4-6层LSTM的,深一点效果比较好。

  成功了

  模型是用人类自发的对话 (比如打电话的语音) 端到端训练出来的,一起来看看成果吧。

  第一题,短语。“克兰菲尔德大学的新员工”,翻译和标答一字不差。

  原文:nuevos empleados de Cranfield University

  标答:New hires at Cranfield University

  第二题,句子。“看看这个国家上下,你看到了什幺”,依然和标答一致。

  

  原文:Por lo tanto, mirar alrededor del país y lo que ves.

  标答:So, look around the country and what do you see?

  对手表现怎样?借助转换文本来翻译的AI,缺了个“do”字:

  第三题,带从句的句子。“我的表 (堂) 兄弟姐妹们小的时候,我照顾过他们也教过他们,有过一些这样的经历。”

  

  原文:Tengo cierta experiencia en cuidar y ense?ar a mis primos cuando eran jóvenes.

  标答:I’ve got some experience in looking after and teaching my cousins when they were young.

  照顾 (Taking Care of) 有缺失,其他部分对比标答是完整的。

  再看对手,“照顾 (Care) ”和“教 (Teach) ”都用了动词原形,语法不是很严格:

  肉眼看过之后,再让S2ST和先转换文本再翻译的AI对比一下BLEU分。

  在“Conversational”大数据集上,S2ST的BLEU分比对手差了6分:42.7比48.7。

  的确还有一些差距,但毕竟对手依靠了文本,算是开卷考了。

  这样说来,直接跳过文本的想法,虽然听起来有些飘,但结果证明是可行的。

  所以,谷歌团队说,大有可为啊。

相关热词搜索:声谱 西语