点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:腾讯副总裁蒋杰:腾讯混元率先采用MoE结构升级,性能提升超50%
首页> 地方频道> 地方频道-广东> 要闻 > 正文

腾讯副总裁蒋杰:腾讯混元率先采用MoE结构升级,性能提升超50%

来源:河北网络广播电视台2024-05-08 09:22

  在4月26日—28日举行的第十七届中国电子信息年会上,腾讯公司副总裁蒋杰表示,腾讯专注于自主可控的大模型技术发展路线,聚焦基础研究,正在利用自身积累和实力构建底层算力网络,开发训练框架,不断迭代技术,积极落地新应用,推动人工智能+及新质生产力发展。

  腾讯公司副总裁蒋杰

  腾讯混元是腾讯基于全链路自主可控技术打造的生成式大模型,自2023年9月首次亮相以来,通过持续迭代和实践,积累了从底层算力到机器学习平台再到上层应用的完整自主技术。目前,腾讯混元大模型参数量已达到万亿,tokens数量超过7万亿。国际权威调研机构沙利文发布的《2024年中国大模型能力评测》显示,腾讯混元在通用基础能力和专业应用能力已居国内第一梯队。

  算法层面,腾讯混元大模型率先采用混合专家模型 (MoE) 结构,并在这个过程积累大量自研技术,其中包括创新的专家路由Routing算法、独创的MoE Scaling Law机制以及合成数据技术,实现模型总体性能相比上一代Dense模型提升50%。

  训练和推理框架上,腾讯自研Angel机器学习平台面向大模型训练,在预训练、模型精调、强化学习多个阶段进行优化,相比业界开源框架,可以用更少的资源训练更大的模型,训练速度是主流框架的2.6倍;面向大模型推理,Angel机器学习平台实现成本相比业界主流框架下降70%,支持国产主流硬件的适配。

  算力层面,腾讯拥有自研星脉高性能计算网络,使用领先的3层网络架构,可支持单集群12.8万卡规模,具备业界最高的3.2T通信带宽,可提升40%的GPU利用率,节省30%—60%的模型训练成本,为AI大模型带来10倍通信性能提升。此外,星脉网络中的交换机、光模块、网卡均是腾讯全链路自研。

  会上,中国电子学会正式颁发2023中国电子学会科学技术奖。腾讯联合北京大学、北京科技大学共同研制的项目《面向大规模数据的Angel机器学习平台关键技术及应用》荣获科技进步一等奖。由多名院士等权威专家组成的鉴定委员会认为:Angel机器学习平台技术复杂度高、研制难度大、创新性强,应用前景广阔,整体技术达到国际先进水平。

  创新技术的同时,腾讯也在持续探索大模型在各行业场景中的实际应用。目前,腾讯混元大模型已经支持腾讯会议、企业微信、腾讯文档等内部超过400个业务和场景接入,并通过腾讯云,面向企业和个人开发者全面开放。腾讯旗下协作SaaS产品已经全面接入腾讯混元大模型,腾讯乐享、腾讯电子签、腾讯问卷、腾讯云AI代码助手等协作SaaS产品也都已实现智能化升级。

  据蒋杰现场介绍,目前腾讯混元大模型也在文生图、图片理解和生成、视频生成等多模态方向进行技术探索,并携手合作伙伴尝试落地应用,在传媒领域,目前,新华社、央视新闻、南方都市报等20多家媒体也深度使用腾讯混元视频生成、文生图等进行内容生产和创作提效。

[ 责编:孙琦 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 美丽中国行丨探访四川雅安大熊猫溯源营地

  • 我国科研团队成功找回“丢失”的野生玉米基因

独家策划

推荐阅读
台风路径预报、渔船出海决策,乃至“厄尔尼诺”预警,离不开一套行之有序的全球海洋观测系统(GOOS)。它由数千个漂流浮标、科考船和锚系浮标共同构成,像神经系统一样监测着海洋的温度、盐度和海流。
2026-06-04 09:47
供销合作社系统紧盯“三夏”生产关键节点,统筹农机力量、强化科技赋能、健全收储保障,护航夏粮抢收、烘干、收储工作。当前正值夏收夏种的关键时节,浙江省杭州市富阳区供销合作社所属供销新桐农业现代化服务中心抢抓农时,开足马力,全力以赴投身“三夏”生产主战场。
2026-06-04 09:35
高校拥有科研力量,但成果难以精准对接产业需求;企业有技术瓶颈,却找不到合适的团队攻关。建设甘肃高等研究院,旨在破解科研、产业“两张皮”,推动科技创新和产业创新一体发展,打通产学研用“最后一公里”。
2026-06-04 09:34
记者闫磊、张文攀从国网宁夏电力调控中心获悉,5月30日,宁夏新型储能装机规模突破1000万千瓦,正式迈入千万千瓦级储能大省行列。宁夏率先构建多元化市场营利模式,构网型储能、百万千瓦级共享储能等标杆项目相继落地投产,实现储能资源建得成、调得动、用得好、效益高。
2026-06-04 09:33
近日,《四川省加快推进“人工智能+”一号创新工程实施方案》正式发布,四川正以全省一号创新工程全力推进人工智能发展。据介绍,四川目前已建成数据中心139个,智算规模约38EFLOPS,为“人工智能+”一号创新工程夯实了算力底座。
2026-06-04 09:31
布局基础研究必须有“功成不必在我”的长远眼光,以持久耐心深耕原理,方能收获未来技术革命的丰硕果实。为此,基础研究布局更加注重从技术瓶颈中提炼低层和深层科学问题,引导科研力量在原理层面下苦功、求突破。
2026-06-04 09:46
5月29日,中央宣传部、中国科协发布“最美科技工作者”,四川大学华西临床医学院副院长,华西医院神经内科主任医师、教授陈蕾入选。
2026-06-03 10:26
瑞士苏黎世联邦理工学院研究团队开发出一种由干细胞和磁电纳米颗粒组成的“细胞机器人”。
2026-06-03 10:24
生态环境部日前印发《海湾清洁指数评价技术方法(试行)》,旨在建立统一规范的海洋垃圾清洁程度量化评估与分级标准,推动沿海地方精准识别问题短板,压实所辖海湾的海洋垃圾治理责任,为“十五五”时期海洋垃圾治理提供重要支撑。
2026-06-03 10:21
近期,国务院印发《加快农业农村现代化“十五五”规划》(以下简称《规划》)。日前,农业农村部、国家发展改革委负责人就《规划》有关情况进行了解读。
2026-06-03 10:20
对于处于科技追赶阶段的经济体而言,基础研究投入不只是解决原创突破的问题,也是形成技术理解力、知识翻译力和产业吸纳力的必要条件。
2026-06-03 10:14
6月1日,漳州核电4号机组核岛反应堆厂房堆腔换料水池模块吊装成功,为后续核岛主线关键路径施工奠定坚实基础。
2026-06-02 10:03
1日,2026年全国粮食和物资储备科技活动周在湖北武汉启动。今年科技活动周的主题是“奋进‘十五五’ 科技护粮储”,活动发布了“十四五”期间我国粮食和物资储备领域132项优秀科技成果、应用案例。
2026-06-02 09:51
全球约有2.5亿乙肝病毒感染者,多数需要长期甚至终身服药,难以彻底停药。当病毒入侵人体细胞时,它首先要“刷卡进门”——结合细胞膜上的特定受体蛋白,才能进入细胞内部。
2026-06-02 09:48
6月1日,长征十二号乙遥一运载火箭在东风商业航天创新试验区中国商火研试发射工位点火升空,成功将千帆星座第十批组网卫星送入预定轨道,首飞任务取得圆满成功。
2026-06-02 09:46
近日,中国民航局新增内设机构低空安全司,机构职责包括起草低空民航发展规划、统筹低空安全与发展、建设低空飞行服务调度平台和低空飞行服务站体系等。这是继2024年12月国家发展改革委成立低空经济发展司之后,国家成立的第二个低空概念管理机构,与低空经济发展有着不可分割的联系。
2026-06-02 09:43
生态环境部近日联合教育部等11个部门和单位发布《中国噪声污染防治报告(2026)》。这位负责人表示,生态环境部为此持续开展噪声治理“千件万户”投诉典型案件调度,推动解决了一批群众反映强烈的噪声问题。
2026-06-01 09:55
习近平总书记深刻指出,中国式现代化要靠科技现代化作支撑,实现高质量发展要靠科技创新培育新动能。生产线上,一批核心技术加速突破,为产业升级注入强劲动能……  习近平总书记强调,实现高水平科技自立自强,是中国式现代化建设的关键。
2026-06-01 09:55
作为全球海洋科技领域最具权威性与影响力的学术盛会,已创办近60年的国际海洋技术大会,一直被誉为全球海洋科技界的“风向标”与“孵化器”。”5月27日上午,中国科学院深海科学与工程研究所副所长彭晓彤汇报由中国科学家主导的国际合作“全球深渊探索计划(GHEP)”。
2026-06-01 09:54
6月1日,由工业和信息化部批准发布的《YD/T 6770—2026 人工智能 关键基础技术 具身智能基准测试方法》正式实施,标志着具身智能评测迈入“有标可依”的新阶段。不仅如此,《人形机器人 全生命周期管理规范》标准也于近期发布,通过“一机一码”,确保产品可进行全链条管理。
2026-06-01 09:54
加载更多