腾讯“混元”AI大模型登顶CLUE总榜,彰显自然语言理解领域强大实力
来源:推酷 发表于2022-05-25 20:30:01 编辑:时寒峰
摘要: 原标题:腾讯混元AI大模型登顶CLUE总榜,彰显自然语言理解领域强大实力 5月24日,腾讯混元AI大模型在CLUE(中文语言理解评测集合)总排行榜、阅读理解、

  原标题:腾讯“混元”AI大模型登顶CLUE总榜,彰显自然语言理解领域强大实力

  5月24日,腾讯“混元”AI大模型在CLUE(中文语言理解评测集合)总排行榜、阅读理解、大规模知识图谱三个榜单同时登顶,一举打破三项纪录。

  据了解,CLUE总榜由分类任务和阅读理解任务构成。腾讯“混元”AI大模型在一个月内先后实现分类任务、阅读理解双佳绩,最终以 84.730的成绩取得总榜第一。

  作为中文 权威的自然语言理解榜单之一,CLUE共开设了包含文本相似度、分类、上下文推理、阅读理解在内的9项子任务,旨在推动NLP(自然语言处理预)训练模型技术的不断进步和突破。

  NLP(自然语言处理)技术是人工智能领域的一个核心研究方向,其目的是使得计算机具备人类的听、说、读、写等能力,并利用知识和常识进行推理和决策。目前,越来越多的科技企业和研发机构投入到该领域的研究当中,在CLUE等业界榜单的竞争也十分激烈。

  在预训练阶段,除常规公开数据集之外,“混元”大模型还学习了商业领域特有的文本数据集。因此,相较于业界其他AI大模型,“混元”能够更好地理解各种长度文本信息,应对搜索、广告、新闻、问答等多样化的场景任务,在阅读理解、知识图谱相关的下游任务中也更加具有优势。

  除性能提升之外,“混元”大模型通过借助数据及模型课程学习、多短句合并掩码、改进PowerSGD(优化通信算法)等方法,有效压缩低带宽环境下GPU节点训练的通信数据量和通信耗时,实现训练效率的大幅提升。

  目前,腾讯“混元”AI大模型研发团队已经将改进的PowerSGD方法贡献给PyTorch开源社区,将在PyTorch下个版本中正式上线。

  得益于“混元”AI大模型在自然语言理解、跨模态检索领域强大的技术能力,自今年4月以来,该模型已成功斩获MSR-VTT、MSVD、CLUE等各大权威AI榜单榜首,这意味着,腾讯在人工智能领域的技术研发已取得突破性进展。

  目前,“混元“NLP大模型已经应用于腾讯内部多个业务,并在腾讯广告的数据挖掘任务中带来超过5%的指标提升,提升广告推荐的精准度,优化用户体验。未来,腾讯混元AI大模型研发团队将根据具体场景需求持续推进大模型的研究和优化,加速AI技术在各个产业的应用和落地。

投稿邮箱:lukejiwang@163.com
相关推荐
百度AI数字人度晓晓应战高考作文:40秒写40篇,水平超
百度AI数字人度晓晓应战高考作文:40秒写40篇,水平超

原标题:百度AI数字人度晓晓应战高考作文:40秒写40篇,水平超75%考生 6月7日

AI2022-06-07 19:44:21

30%的节能效率,Google AI如何降服“电老虎”?
30%的节能效率,Google AI如何降服“电老虎”?

原标题:30%的节能效率,Google AI如何降服电老虎? 对于科技企业来说,无论是

AI2022-06-06 20:16:00

腾讯“混元”AI大模型登顶CLUE总榜,彰显自然语言理解
腾讯“混元”AI大模型登顶CLUE总榜,彰显自然语言理解

原标题:腾讯混元AI大模型登顶CLUE总榜,彰显自然语言理解领域强大实力 5月

AI2022-05-25 20:30:01

川崎与微软合作 采用 HoloLens 设备制造机器人
川崎与微软合作 采用 HoloLens 设备制造机器人

原标题:川崎与微软合作 采用 HoloLens 设备制造机器人 5月25日讯,据网易科技报

AI2022-05-25 19:34:16

川崎与微软合作 采用 HoloLens 设备制造机器人
川崎与微软合作 采用 HoloLens 设备制造机器人

原标题:川崎与微软合作 采用 HoloLens 设备制造机器人 5月25日讯,据网易科技报

AI2022-05-25 19:34:16

阿里云落子泰国,云厂商再度卷到东南亚
阿里云落子泰国,云厂商再度卷到东南亚

原标题:阿里云落子泰国,云厂商再度卷到东南亚 云厂商在国内市场卷完一轮

AI2022-05-23 15:21:50

上海研发下线智能无人核酸采样车,采样一次仅需30秒
上海研发下线智能无人核酸采样车,采样一次仅需30秒

原标题:上海研发下线智能无人核酸采样车,采样一次仅需30秒 上海人工智能研

AI2022-05-22 09:05:38

AI人才「缺口」:智能安防最缺人,华为成了「AI界黄埔
AI人才「缺口」:智能安防最缺人,华为成了「AI界黄埔

原标题:AI人才「缺口」:智能安防最缺人,华为成了「AI界黄埔军校」 缺人,

AI2022-05-18 19:54:50

阿里 AR 电子设备专利获授权,可避免图像“发飘”
阿里 AR 电子设备专利获授权,可避免图像“发飘”

原标题:阿里 AR 电子设备专利获授权,可避免图像发飘 5 月 12 日消息,信息显

AI2022-05-12 20:34:43

科大讯飞被自己画的千亿营收大饼噎到了
科大讯飞被自己画的千亿营收大饼噎到了

原标题:科大讯飞被自己画的千亿营收大饼噎到了 下注 科大讯飞 (SZ:002230)的

AI2022-05-10 12:11:12