阿里云PAI将神经机器翻译训练效率提升5倍
近两年,神经机器翻译(NMT: Neural Machine Translation)技术异军突起,翻译质量取得大幅提升。但不幸的是,NMT 系统的训练成本非常高,限制了这一技术的大范围使用。
7月12日,阿里巴巴披露的一份技术资料中显示,阿里翻译团队通过使用阿里云机器学习平台PAI实现了模型训练效率5倍的飞跃,并已应用在英俄电商翻译质量优化项目中。
神经机器翻译是一种用于自动翻译的端到端的学习方法,该方法能够克服传统的基于短语的翻译系统的缺点,可以将整个输入句子视作翻译的基本单元。从2016年以来的学术界顶级会议上,几乎全是围绕NMT相关的创新工作,之后谷歌、微软等巨头公司相继发布NMT系统。
在阿里巴巴内部,阿里翻译负责为1688国际站、全球速卖通等提供多语言服务,中国卖家填写的一些中文信息会被机器自动翻译成多国语言。该团队同时还为钉钉、东南亚电商Lazada等提供服务。
去年,他们首次将NMT技术应用在通讯场景下。虽然翻译质量取得很大的提升,但模型训练耗时太长。3000万的训练数据在单块GPU卡上一般需要训练20天以上,才能得到一个初步可用的模型。
之后,他们尝试在阿里云机器学习平台PAI上开发支持分布式训练的NMT系统,并于3月底完成了第一个版本。在英俄电商翻译质量优化项目中,分布式NMT系统大大提高了训练速度,使模型训练时间从20天缩短到了4天。
图:使用不同卡数时,在中英100万训练语料上获得的收敛加速比
PAI是阿里“NASA”计划发布的首个重磅工具,可完全兼容全球主流的深度学习开源框架。同时,底层提供强大的云端异构计算资源,包含CPU、GPU、FPGA。在GPU方面,可灵活实现多卡调度。
在阿里巴巴内部,PAI已经被广泛使用。淘宝搜索使用PAI的参数服务器,可以把百亿个特征的模型,分散到数十个乃至于上百个参数服务器上,打破规模瓶颈。最终实现搜索结果基于商品和用户的特征进行排序。
现在,阿里翻译团队还在破解线上服务处理延时的难题,为神经网络机器翻译模型的大规模应用扫除最后障碍。
艾莉塔战斗天使中文预告机械少女超能打科幻电影艾莉塔战斗天使(AlitaBattleAngel)发布第二个中文预告,影片改编自科幻漫画铳梦由罪恶之城导演罗伯特middot罗德里格兹执导,詹姆斯middot卡梅隆制片与编
Fast通道已获新版本还为Build17713发布累积更新Fast通道已经连续两周没有获得新版本了,今天微软更是为Windows10Build17713发布累积更新KB4345215,在安装之后内部版本号升至17713。1002。根据官方
星爵与星云回应詹姆斯古恩事件请大家轻喷莫怒银河护卫队系列导演詹姆斯middot古恩由于陷入恋童癖案件而被迪士尼公司解雇。由于詹姆斯middot古恩的恋童癖并未坐实导致网友们在ChandlerEdwards发起请愿请求迪士尼
白夜追凶作者称同名网剧侵权已向法院起诉优酷据北京海淀法院官方网站,因认为网剧白夜追凶侵犯了其剧本白夜追凶的著作权,陈琼琼将白夜追凶编剧韩冰(笔名指纹)及出品公司优酷信息技术(北京)有限公司诉至法院。日前,海淀法院受理了此案
汤姆赫兰德戏称自己在为铁拳电影续集做准备TomHolland,汤姆middot赫兰德,因在漫威电影宇宙中扮演小蜘蛛而家喻户晓。虽然扮演的是超级英雄,95后的他也透露着一股稚气与可爱,又因其姓为ldquo荷兰rdquo,他
生化危机官方让国外玩家认中文不到一半人做对生化危机在官方网站上推出了一个小测试,让玩家们识别一下在生化危机6开头场景中出现的中文标语ldquo请勿入内rdquo到底是什么意思,结果只有不到一半的人选对了。官方在问题中给出了
三位彩虹六号围攻特勤干员将加入到幽灵行动荒野中在之前我们已经报道了,在幽灵行动荒野(TomClancyrsquosGhostReconWildlands)即将在本月24号迎来的ldquo特殊行动2rdquo更新中,游戏将与ld
HT推出游戏版蜘蛛侠人偶细节爆炸精致十足说起蜘蛛侠这位漫威英雄,我想每个熟悉漫威电影的人都很熟悉吧,作为漫威的当家花旦,索尼也将在九月份推出PS4平台的游戏蜘蛛侠。也就在今年SDCC,HT展柜上,我们看到了HT为PS4游
网剧白夜追凶引发著作权纠纷优酷被起诉7月24日消息,据海淀法院网消息,因认为网剧白夜追凶侵犯了其剧本白夜追凶的著作权,陈琼琼将白夜追凶编剧韩冰(笔名指纹)及出品公司优酷信息技术(北京)有限公司诉至法院。原告陈琼琼诉称
乐高官方制作11DC海王雕像手握三叉戟高大威猛!日前,游侠小编曾为大家报道过2018圣地亚哥动漫展11纯乐高积木打造灭霸的消息!而近日,乐高官方再次带来了11DC海王!一起来看看吧!这次的海王花费了60个小时的时间,用了3045
死侍2导演或重拍龙争虎斗李小龙归来在很多80。90后的记忆里,李小龙这位功夫明星可以说是非常耳熟能详了。虽然这位功夫明星去世的很早,但是关于他的电影和他的各种事迹也都让人听了无数次。李小龙剧照在1973年李小龙拍摄