点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:腾讯副总裁蒋杰:腾讯混元率先采用MoE结构升级,性能提升超50%
首页> 地方频道> 地方频道-广东> 要闻 > 正文

腾讯副总裁蒋杰:腾讯混元率先采用MoE结构升级,性能提升超50%

来源:河北网络广播电视台2024-05-08 09:22

  在4月26日—28日举行的第十七届中国电子信息年会上,腾讯公司副总裁蒋杰表示,腾讯专注于自主可控的大模型技术发展路线,聚焦基础研究,正在利用自身积累和实力构建底层算力网络,开发训练框架,不断迭代技术,积极落地新应用,推动人工智能+及新质生产力发展。

  腾讯公司副总裁蒋杰

  腾讯混元是腾讯基于全链路自主可控技术打造的生成式大模型,自2023年9月首次亮相以来,通过持续迭代和实践,积累了从底层算力到机器学习平台再到上层应用的完整自主技术。目前,腾讯混元大模型参数量已达到万亿,tokens数量超过7万亿。国际权威调研机构沙利文发布的《2024年中国大模型能力评测》显示,腾讯混元在通用基础能力和专业应用能力已居国内第一梯队。

  算法层面,腾讯混元大模型率先采用混合专家模型 (MoE) 结构,并在这个过程积累大量自研技术,其中包括创新的专家路由Routing算法、独创的MoE Scaling Law机制以及合成数据技术,实现模型总体性能相比上一代Dense模型提升50%。

  训练和推理框架上,腾讯自研Angel机器学习平台面向大模型训练,在预训练、模型精调、强化学习多个阶段进行优化,相比业界开源框架,可以用更少的资源训练更大的模型,训练速度是主流框架的2.6倍;面向大模型推理,Angel机器学习平台实现成本相比业界主流框架下降70%,支持国产主流硬件的适配。

  算力层面,腾讯拥有自研星脉高性能计算网络,使用领先的3层网络架构,可支持单集群12.8万卡规模,具备业界最高的3.2T通信带宽,可提升40%的GPU利用率,节省30%—60%的模型训练成本,为AI大模型带来10倍通信性能提升。此外,星脉网络中的交换机、光模块、网卡均是腾讯全链路自研。

  会上,中国电子学会正式颁发2023中国电子学会科学技术奖。腾讯联合北京大学、北京科技大学共同研制的项目《面向大规模数据的Angel机器学习平台关键技术及应用》荣获科技进步一等奖。由多名院士等权威专家组成的鉴定委员会认为:Angel机器学习平台技术复杂度高、研制难度大、创新性强,应用前景广阔,整体技术达到国际先进水平。

  创新技术的同时,腾讯也在持续探索大模型在各行业场景中的实际应用。目前,腾讯混元大模型已经支持腾讯会议、企业微信、腾讯文档等内部超过400个业务和场景接入,并通过腾讯云,面向企业和个人开发者全面开放。腾讯旗下协作SaaS产品已经全面接入腾讯混元大模型,腾讯乐享、腾讯电子签、腾讯问卷、腾讯云AI代码助手等协作SaaS产品也都已实现智能化升级。

  据蒋杰现场介绍,目前腾讯混元大模型也在文生图、图片理解和生成、视频生成等多模态方向进行技术探索,并携手合作伙伴尝试落地应用,在传媒领域,目前,新华社、央视新闻、南方都市报等20多家媒体也深度使用腾讯混元视频生成、文生图等进行内容生产和创作提效。

[ 责编:孙琦 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 习近平同阿塞拜疆总统阿利耶夫举行会谈

  • 神舟二十号载人飞行任务航天员与记者见面

独家策划

推荐阅读
数字技术带给阅读前所未有的便利,同时也提出了新课题。
2025-04-23 10:34
农民种粮能挣钱,粮食生产才有保障。在种粮农民收益保障机制中,农业保险是重要方面。今年中央一号文件提出:“推动扩大稻谷、小麦、玉米、大豆完全成本保险和种植收入保险投保面积”“健全多层次农业保险体系,支持发展特色农产品保险”。
2025-04-23 10:31
身高172厘米,通体银色,一台台人形机器人在产线上分拣物料、搬运料箱、安装零件……科幻电影里的场景照进现实。
2025-04-23 10:26
再接再厉、乘势而上,一步一个脚印朝着建设航天强国的目标迈进,中国的航天事业必将开拓更高境界,中国的科技创新将书写崭新篇章。
2025-04-23 09:24
天地图是自然资源部门向社会提供各类在线地理信息公共服务、推动地理信息数据开放共享的政府网站。
2025-04-23 09:22
4月22日,在北京航天飞行控制中心的统一调度下,神舟二十号载人飞船发射任务组织全区合练——酒泉卫星发射中心、西安卫星测控中心以及任务各测控点实施联调联控,全面模拟发射准备、发射以及飞行过程中的各种技术状态和工作过程。
2025-04-23 09:21
让人形机器人跑马拉松,与其说是人机竞技,不如说是机器的自我迭代。
2025-04-23 09:15
当今,百年变局中的全球价值链重构,既考验着中国的战略定力,也孕育着我国从“跟跑”到“领跑”的跃迁机遇。
2025-04-23 09:13
废旧电器回收不仅能化解生态环境和人体健康风险,还推进了数据安全治理与资源循环利用领域的双重突破,为可再生资源回收利用行业带来广阔的市场空间。
2025-04-22 10:05
建设农业强国,利器在科技。让农业插上科技的翅膀,重塑“三农”发展新优势,我们才能在加快建设农业强国的道路上展翅翱翔。
2025-04-22 10:04
最新一期《自然》发表了两项独立临床试验研究,验证了干细胞疗法对帕金森病的安全性。为检验帕金森病细胞疗法的安全性和潜在副作用,日本京都大学等机构进行了一项Ⅰ/Ⅱ期临床试验。
2025-04-22 10:03
转型不是丢掉已有禀赋和基础,而要依托技术,在推进资源精深加工、资源产业向下游延伸上下功夫
2025-04-22 09:23
空间站徜徉在浪漫星辰中,书中文字仿佛随之流淌,飘入心间。在空间站里过大年,除了欢乐祥和,更多的是一份守望——守望万家灯火团圆,守望壮美山河辽阔,守望祖国繁荣昌盛、国泰民安。
2025-04-22 09:21
山水工程交出厚厚的生态账本:截至2024年底,52个山水工程累计完成治理面积超830万公顷,其中包括255万公顷森林草原、130万公顷水土流失地、10.7万公顷矿山修复地等,累计完成生态修复面积超1.2亿亩。
2025-04-22 09:19
在政策支持与市场驱动的双重背景下,中国民间投资实现增速,成为推动经济高质量发展的重要引擎。
2025-04-22 09:14
胡大刚介绍,苹果果实硬度是影响果实耐贮性、运输性、货架期和消费者偏好的重要品质性状。 该研究成果不仅为苹果采后保鲜技术研发提供了理论依据,也为其他园艺作物的品质改良研究开辟了新思路。
2025-04-21 10:13
来自国家天文台、北京大学、中国科学院大学、北京师范大学及荷兰莱顿大学等单位的学者,在利用我国天文大科学装置郭守敬望远镜(LAMOST)进行光谱巡天观测中,证认出1982个银道面背景类星体,其中1338个为新发现星体。
2025-04-21 10:12
在深化测绘地理信息应用上,自然资源部办公厅印发关于深化工程建设项目“多测合一”改革的通知,强化成果共享。
2025-04-21 09:27
在不少科研人员看来,人工智能不仅是工具,更是撬动科学问题、推动科研范式变革的引擎。
2025-04-21 09:21
标志着全球起飞重量最大的民用水陆两栖飞机通过了严格测试和验证,研制取得圆满成功,获得市场“准入证”。
2025-04-21 09:16
加载更多