×
语言研究

横扫6大AI榜单后,阿里将这一顶级语言AI开源

智东西(公众号:zhidxcom)

作者 | 心缘

编辑 | 漠影

智东西6月22日报道,今日,阿里巴巴达摩院正式宣布已开源预训练语言模型体系AliceMind。

日均调用量超过50亿次、活跃场景超过200个、登顶六大NLP权威榜单,AliceMind身上有许多荣耀的战绩,并入选了2021年世界人工智能大会最高奖项SAIL奖TOP30榜单。

作为阿里的语言技术底座,AliceMind正在让机器学会说“人话”的道路上一路快跑。

达摩院深度语言模型团队负责人黄松芳告诉智东西,AliceMind生态体系完整,能力全面,希望通过开源,推动NLP行业研究突破和应用创新。

开源地址: src="http://p1.qhimgs4.com/t014204db82a2b9e8cb.jpg">

AliceMind体系内的模型登顶六大NLP榜单

截至5月,AliceMind体系内的主要工作已登顶GLUE、CLUE、XTREME、VQA Challenge、DocVQA、MS MARCO等六大NLP权威榜单。

其中的多语言、多模态、结构化预训练三个模型均被国际学术顶会ACL 2021录取。

6月19日,AliceMind体系中的多模态模型StructVBERT,再次登顶多模态权威榜单VQA Challenge 2021。

这个比赛类似看图问答,给定一张图像和关于图像的自然语言问题,AI需要提供准确的自然语言答案。AliceMind战胜了微软、Facebook等几十家国际顶尖团队,将纪录从去年第一的76.36%显著提升到超过79%,接近人类水平(80.78%)。

AliceMind登顶VQA Challenge 2021榜单

除了上述6种模型外,AliceMind模型体系还包括超大模型PLUG、知识驱动LatticeBERT等模型。

中文预训练模型PLUG在两个月前刚刚发布,因为高达270亿的超大规模参数,在业界猛刷了一把存在感。黄松芳透露道,PLUG开源目前正在规划中。

目前AliceMind已上线到内部平台,开箱即用,支持继续训练、精调、蒸馏、测试、部署五大功能,只需简单操作,即可完成语言模型从训练到部署的完整链路。

AiNLP管控台

二、已落地数十个应用,助推AI进入大工业时代

开源AliceMind,会带来哪些好处?

达摩院深度语言模型团队负责人黄松芳告诉我们,对于阿里而言,语言模型的落地应用是一个系统工程,不是一个企业能做成的。

因此,通过开源,阿里希望和社区一起来推动语言模型的落地,也在这个过程中,进一步完善和提升AliceMind。

对于外部来说,AliceMind开源降低业界研究和创新应用的门槛,助推语言AI进入大工业时代。

外部开发者可以基于此,快速地搭建智能的NLP引擎,大大降低对于人工标注数据的依赖,也降低了AI从业者的入门门槛。

更重要的是,这将能够大幅提升改善或者超过传统机器学习方法效果。

如果用炼钢来类比,以前训练一个NLP模型,得从铁矿石开始炼钢,周期长,费用高,产量低。

而开源预训练语言模型的好处在于,已经给你提供了现成的粗钢,你需要做的,只是将粗钢炼成所需的特定钢材,这使得开发效率大为提升。

此前,AliceMind已具备阅读、写作、翻译、问答、搜索、摘要生成、对话等多种能力,落地于跨境电商、客服、广告等数十个核心业务应用。

AliceMind诗词生成示例

以云小蜜智能客服场景为例,StructBERT和PALM等模型被深度运用于FAQ匹配、QA挖掘和Paraphrase数据增强等业务,其中匹配模型帮助将政务行业top1准确率提升2.9%,并支持了疫情问答在九个地市机器人上线应用。

在阿里之外,AliceMind还被应用于医疗、能源、金融等多个行业。

比如,在电力能源领域,浙江电网公司以AliceMind为底座为员工构建了智能化运维平台,应用于变压器检修、供电抢修等业务,已开始在国家电网公司统一推广。

再比如,AliceMind在阿里云医疗行业应用于病历质检和健康档案产品,落地几十家医院。

而在AliceMind开源后,它将进一步推动语言AI走向可规模化复制的大工业时代。

AliceMind官网:https://nlp.aliyun.com/portal#/alice

三、体系内的不同模型:各有侧重,理念共通

总体来看,AliceMind具有覆盖模型全面、技术领先、开放普惠的特点,它将围绕“预训练+精调”语言模型持续进行生态性的技术开源。

在“预训练”阶段,模型从大规模文本中学习到词与词的搭配关系,及句子之间的上下文关系等语言通用知识。

上一篇:横扫六大权威榜单后 阿里达摩院开源深度语言模
下一篇:没有了

Top