点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:腾讯副总裁蒋杰:腾讯混元率先采用MoE结构升级,性能提升超50%
首页> 地方频道> 地方频道-广东> 要闻 > 正文

腾讯副总裁蒋杰:腾讯混元率先采用MoE结构升级,性能提升超50%

来源:河北网络广播电视台2024-05-08 09:22

  在4月26日—28日举行的第十七届中国电子信息年会上,腾讯公司副总裁蒋杰表示,腾讯专注于自主可控的大模型技术发展路线,聚焦基础研究,正在利用自身积累和实力构建底层算力网络,开发训练框架,不断迭代技术,积极落地新应用,推动人工智能+及新质生产力发展。

  腾讯公司副总裁蒋杰

  腾讯混元是腾讯基于全链路自主可控技术打造的生成式大模型,自2023年9月首次亮相以来,通过持续迭代和实践,积累了从底层算力到机器学习平台再到上层应用的完整自主技术。目前,腾讯混元大模型参数量已达到万亿,tokens数量超过7万亿。国际权威调研机构沙利文发布的《2024年中国大模型能力评测》显示,腾讯混元在通用基础能力和专业应用能力已居国内第一梯队。

  算法层面,腾讯混元大模型率先采用混合专家模型 (MoE) 结构,并在这个过程积累大量自研技术,其中包括创新的专家路由Routing算法、独创的MoE Scaling Law机制以及合成数据技术,实现模型总体性能相比上一代Dense模型提升50%。

  训练和推理框架上,腾讯自研Angel机器学习平台面向大模型训练,在预训练、模型精调、强化学习多个阶段进行优化,相比业界开源框架,可以用更少的资源训练更大的模型,训练速度是主流框架的2.6倍;面向大模型推理,Angel机器学习平台实现成本相比业界主流框架下降70%,支持国产主流硬件的适配。

  算力层面,腾讯拥有自研星脉高性能计算网络,使用领先的3层网络架构,可支持单集群12.8万卡规模,具备业界最高的3.2T通信带宽,可提升40%的GPU利用率,节省30%—60%的模型训练成本,为AI大模型带来10倍通信性能提升。此外,星脉网络中的交换机、光模块、网卡均是腾讯全链路自研。

  会上,中国电子学会正式颁发2023中国电子学会科学技术奖。腾讯联合北京大学、北京科技大学共同研制的项目《面向大规模数据的Angel机器学习平台关键技术及应用》荣获科技进步一等奖。由多名院士等权威专家组成的鉴定委员会认为:Angel机器学习平台技术复杂度高、研制难度大、创新性强,应用前景广阔,整体技术达到国际先进水平。

  创新技术的同时,腾讯也在持续探索大模型在各行业场景中的实际应用。目前,腾讯混元大模型已经支持腾讯会议、企业微信、腾讯文档等内部超过400个业务和场景接入,并通过腾讯云,面向企业和个人开发者全面开放。腾讯旗下协作SaaS产品已经全面接入腾讯混元大模型,腾讯乐享、腾讯电子签、腾讯问卷、腾讯云AI代码助手等协作SaaS产品也都已实现智能化升级。

  据蒋杰现场介绍,目前腾讯混元大模型也在文生图、图片理解和生成、视频生成等多模态方向进行技术探索,并携手合作伙伴尝试落地应用,在传媒领域,目前,新华社、央视新闻、南方都市报等20多家媒体也深度使用腾讯混元视频生成、文生图等进行内容生产和创作提效。

[ 责编:孙琦 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 华山迎来新春旅游高峰

  • 福州:簪花“簪”福气 千年坊巷展非遗风采

独家策划

推荐阅读
近期,我国“天关”卫星(爱因斯坦探针卫星)观测到一例伽马暴EP240315a,这是首次探测到宇宙早期爆发现象的软X射线信号,将为开展早期宇宙相关研究开启一扇新窗口。1月23日,相关成果论文在国际学术期刊《自然·天文》在线发表。
2025-01-27 09:44
日前,由机器人天工、天轶、小柒与现场主持人共同发布的,以“畅享科技 乐酷亦庄”为主题的北京经济技术开发区2025年文商旅体发布活动,在北京智慧融媒创新中心举办。
2025-01-27 09:35
近年来,我国种业快步发展。从种子生产到App订单运输、催芽厂催芽作业、智能秧棚育秧、轨道车运输、智能驾驶插秧、田间水肥管理、App订单驾驶收获,我国已经形成科技范十足的种子生产链条,跑出独具中国特色的农业科技创新“加速度”。
2025-01-27 09:34
乙巳蛇年将至,国家自然博物馆“灵蛇献瑞——2025乙巳蛇年生肖文物大联展”和升级焕新的基本陈列“脊椎动物的崛起”向公众开放,不少大朋友和小朋友在浓浓的年味中迎来一场科普之旅。
2025-01-27 09:34
车辆扎进山体,穿过17.5公里长的锦屏山隧道后,周遭终于从昏暗变得明亮,一座“地下城”出现在眼前——这里是中国锦屏地下实验室(以下简称“锦屏地下实验室”)二期。
2025-01-27 09:27
快过年了,当很多人渐渐放下手头工作时,团队河南安阳育种站负责人阎俊研究员和往常一样出门了,目的地依然是他熟悉的育种田。
2025-01-26 09:19
1月25日,国家林草种质资源设施保存库雄安库开工建设,标志着我国林草种质资源设施保存体系基本形成,对于全面提升我国林草种质资源保护利用水平和林草种业整体水平具有重大意义。
2025-01-26 09:17
北京大学物理学院量子材料科学中心王健团队与合作者展开研究,成功制备出铜氧化物高温超导体薄片器件,并在其中观测到零磁场下工作温度可达72开尔文的高温超导二极管效应。
2025-01-26 09:17
修复后的影片不仅没有划痕、噪点等老电影身上常见的“毛病”,而且质量比原片高很多,比如没有了威亚,色彩更亮,非常符合如今观众的观看习惯。
2025-01-26 09:16
110万吨!这是“中麦578”2024年的订单收购量。要知道,2024年全国小麦总产量是14010万吨,以此对比,“中麦578”的订单量相当于全国小麦产量的1/140。能取得这样的成绩,我特别自豪!
2025-01-26 09:15
国家统计局最新数据显示,2024年,我国全社会研究与试验发展(R&D)经费投入总量超过3.6万亿元,比上年增长8.3%,实现稳定增长,投入总量稳居世界第二位。
2025-01-24 10:01
“我们种植的是‘捷麦19’‘沧麦6002’,最高亩产已超过300公斤。”后仙庄村党支部副书记刘玉锁说,“‘春天白茫茫,夏天雨汪汪,十年九不收,糠菜半年粮。’这首民谣道尽了我们过去在盐碱地里种粮的艰难。如今,科技引领让‘盐碱滩’蝶变‘米粮川’。”
2025-01-24 10:00
记者从国家统计局获悉:2024年,我国全社会研究与试验发展(R&D)经费投入为36130亿元,同比增长8.3%。我国支持科技创新的政策体系不断完善,多元化投入格局加快构建,企业科技创新主体地位不断增强,为研发经费持续增长提供了有力支撑。
2025-01-24 09:58
在禁食或运动期间,免疫细胞(红色)迁移至胰腺并刺激产生胰高血糖素的细胞(橙色)来调节血糖,其中细胞核以蓝色显示。这表明免疫细胞不仅是抵御威胁的“战士”,还能像应急响应人员一样,在必要时介入确保机体的能量供给。
2025-01-24 09:58
1月14日,上海豫园灯会蛇年吉祥灯笼成网红文创伴手礼,其可爱的造型吸引众多游客购买。在十二生肖中,很少有谁拥有同蛇一样复杂的象征意味,兼具毁誉参半的双重文化色彩。秦汉以后,我们祖先对蛇的热情也并未减少,但属于蛇的正面形象的意蕴更多地被投射到龙身上。
2025-01-24 09:58
冰岛基因解码公司科学家完成了一项重要研究。他们绘制了一份人类基因组完整改组图谱,即详尽的人类DNA在生殖过程中混合方式的地图。
2025-01-23 10:19
考古人员在位于湖南省常德市澧县城头山镇的李家岗遗址,发现彭头山文化时期“古稻田”遗迹,这将长江中游早期稻田的出现时间提早到距今8000多年。
2025-01-23 10:14
日前国际学术期刊《大气科学进展》上发布2024年全球海温变化研究报告:2024年全球海表平均温度、海洋上层2000米热含量再一次达到了人类有观测记录以来的最高值。
2025-01-23 10:09
日前,新疆农业大学科研人员李德强所在的研发团队研发出一种新型可注射水凝胶,并将其用于抗癌药物的负载,可显著降低药物副作用。
2025-01-23 10:10
呼吁更多的人转变观念,认识到从“能用”到“多用”再到“好用”的国内装备自主可控,对于面临复杂多变的国际环境意义重大。
2025-01-23 09:59
加载更多