京东探索研究院NLP水平超越微软织女Vega v1模型位居GLUE榜首在近日公布的全球自然语言处

在近日公布的全球自然语言处理领域顶级测试GLUE中，京东探索研究院联合悉尼大学、武汉大学以及北京航空航天大学组成梦之队（JDExplore Dream Team，d-team）参与其中，其提出的织女模型Vega v1以总平均分91.3分荣登榜首夺冠，再次刷新自然语言理解技术世界纪录，超越同场竞技的微软、FACEBOOK、斯坦福大学等企业和高校团队。

文章图片

值得提及的是，测试中织女模型在九个子任务中的四个单项任务，即情感分类任务SST-2（The Stanford Sentiment Treebank）、语义相似度任务MRPC （Microsoft Research Paraphrase Corpus）、问句语义等价任务QQP（The Quora Question Pairs）和指代消解任务WNLI（winograd NLI）中均位列第一。尤其在情感分析任务SST 和指代消解任务WNLI 中首次超越人类智能水平，充分证明了京东探索研究院自然语言处理技术水平在超级深度学习领域的全球领先地位。
据了解，本次夺冠的织女模型Vega v1采用了“预训练-微调”范式，依托于多个重要预训练的技术创新实现突破，例如采用了高效节能的并行化训练框架以及数据利用方法，使用了数十亿参数量的创新模型架构、更好的自监督信号以及多粒度句子级表征等。据介绍，未来还将考虑融合可信人工智能等技术对织女模型进行全面升级，让其不仅具有强大的文本理解能力，还能具备稳定性、可解释性、保护隐私、公平性等重要属性。
京东探索研究院在自然语言处理及机器视觉等领域拥有世界领先的智能人机交互技术，在国际顶级学术会议上发表了520余篇论文，斩获了33项国际AI比赛冠军并多次获得国际大奖，且拥有370余项专利。依托京东优质的应用场景，打造了新一代多模态智能客服产品，涵盖了全链条客户服务场景。
【京东探索研究院NLP水平超越微软织女Vega v1模型位居GLUE榜首】值得肯定的是，织女Vega v1模型问鼎GLUE榜单并超越人类的表现，将京东探索研究院NLP模型水平推上新台阶，有望以创新性科技更好助动智能城市、供应链管理、智能零售等应用研究，更快推进数智化产业蓬勃发展。

京东探索研究院NLP水平超越微软 织女Vega v1模型位居GLUE榜首

京东探索研究院NLP水平超越微软织女Vega v1模型位居GLUE榜首