6月22日,在华为开发者大会2024期间,以“大模型混合云,十大创新技术引领政企智能升级”为主题的高峰论坛成功举办。会上,华为云发布“大模型混合云十大创新技术”,通过聚焦根技术突破,帮助政企客户抓住大模型战略机遇,加速迈向智能世界。
大模型技术正在催生新一轮的技术创新和产业变革,然而随着大模型能力不断变强,模型参数不断增加,对端、边、云算力协同的整体架构设计提出了更高的要求。华为混合云CTO刘征辉在会上发表《打造最优混合云底座,使能大模型创新》主题演讲。
华为混合云CTO刘征辉
刘征辉表示,依托全系列产品研发经验,华为云Stack通过系统性创新,为政企客户打造大规模、高性能、高可靠、云边协同四项全能的云化算力底座,加速大模型应用进程。
在大规模方面,华为云Stack支持大规模AI集群和大容量训练数据,支撑千亿模型训练集群部署。
在高性能方面,无阻塞互联RoCE网络可实现训练效率提升50%,利用高性能存储的多层缓存机制,小文件加载效率提升了20倍。
在高可靠方面,通过软硬协同分钟级故障感知定界,实现月级长稳训练;智能化的运维管理,覆盖超80%的故障场景、提升故障恢复能力,结合业界最成熟的安全运营方案、全覆盖的AI数据安全方案以及最高安全等级的算力平台,打造高安全算力。
在云边协同方面,华为云Stack提供多种边缘轻量化部署形态,AI高效赋能生产场站,并通过多云合一的管理架构,多云择优的调度策略实现多云算力管理。
华为云Stack旨在打造更优的大模型底座和基础能力,通过工具和专业服务使能懂行的生态伙伴,共同探索更多大模型与行业结合的创新路径。目前已有政府、金融、矿山、能源等行业100多个重点伙伴基于盘古大模型及开发平台构建行业场景模型和创新应用,打造了丰富的行业大模型方案。面向未来,华为云Stack将以坚定的战略耐心,持续深入行业场景,与客户、合作伙伴一起共迎AI的黄金时代。