华为云打造下一代云基础设施CloudMatrix,开启智能算力新纪元

2024-06-21 21:53:59     来源:

在6月21日举办的华为开发者大会(HDC 2024)上,华为云CTO张宇昕介绍了下一代云基础设施——CloudMatrix。这一创新性的技术解决方案旨在解决当前云平台在大模型训练和使用中遇到的“算力墙”“内存墙”和“能效墙”等问题。

张宇昕表示,CloudMatrix改变了传统数据中心的架构和算力供给模式,将传统的以CPU为中心的主从架构,演进为多元算力对等全互联架构;并通过高速互联网络协议,将CPU、NPU、GPU 等算力资源全部互联和池化,从而把AI算力从单体算力演进到矩阵算力,开启智能算力新纪元。

目前华为云是业界唯一采用对等架构超节点技术提供算力服务的厂商,实现了业界领先的性能和可靠性。据悉,华为云超节点在算力方面相比业界单节点提升了50倍,大模型的checkpoint恢复时长低于10分钟,万卡集群线性度大于95%,远超业界水平。

值得一提的是,基于盘古大模型5.0的实测数据显示,在同等算力条件下,CloudMatrix相较于传统服务器集群架构,在模型训练效率上提升了68%。这一显著的提升,充分证明了CloudMatrix在云原生基础设施方面的技术领先性。

 

标签:

猜你喜欢

华为云张平安:昇腾AI云服务持续优化,加速AI大模型的开发
华为云发布盘古具身智能大模型,推动人形机器人技术再升级
华为云盘古大模型5.0重塑工业设计,让所想即所见,所见即所得
华为发布开发者布道师计划,3年发展超过3000名华为开发者布道师
华为云盘古气象大模型再升级,挑战公里级区域预报
热轧生产线年收益增9000万!盘古大模型对这家钢铁集团做了啥?
华为云盘古媒体大模型,让视频制作效率提速
华为云盘古大模型5.0 让更多车辆都能用得上智驾
鸿蒙先锋共筑星河 | “南方基金App”全面拥抱HarmonyOS NEXT
鸿蒙先锋共筑星河丨北大学子开发鸿蒙原生应用,用代码编写智慧校园
华为云重磅发布盘古大模型5.0,加速大模型行业落地
自主设置,通话无忧!天翼防骚扰护您通讯安全
2024华为云中企出海全球峰会开幕!AIGC“真人”营销视频创作神器万兴播爆亮相
我国生成式人工智能市场规模约14万亿,大模型商业化落地潜力巨大
这一次,钢铁侠的Jarvis要跑到设备上
学而思与全球知名科普出版品牌DK达成合作,共创优质科普内容
凯捷咨询携手华为云发布数字化零售解决方案,共创数智零售新生态
喜报|联通数科连续两年荣膺“标杆”!科改示范企业再创佳绩!
电商大考 OPPO服务凭什么得“优”
山东港口科技集团与钉钉战略签约,携手共助“智慧绿色港口”建设
硅能光电“诺亚新启”新质生产力先进封装车间投产庆典隆重举行
游无界·创未来:在2024巨量引擎抖音小游戏行业峰会,打开小游戏无限可能
固废科研求创新 建设绿色新家园——记桂林理工大学土木工程学院陈平教授
行稳致远,进而有为,绿联科技不断深化品牌影响力
福布斯点赞中国AR消费市场:Rokid领跑新赛道
万家乐致极MAX套系 如何实现厨房健康化与智能化的完美交融?
三星电视亮相重百电器家电节 多维度视角诠释“有AI的科技·艺术·家”
Outbrain再度荣获2024年度平台大奖,推动开放互联网和新闻业可持续发展
易路携手华为云,共助中国企业出海新征程
数智升级,共筑伟大品牌|华为云助力零售行业把握数字转型新机遇