腾讯云助力MiniMax打造大模型:规模超千卡,可用性达99.9%

2023-07-21 12:02:05     来源:

高效灵活的云上基础设施,是大模型创业的必要底座。

7月20日,腾讯云对外披露助力MiniMax研发大模型的最新进展。目前,腾讯云长期支持MiniMax的千卡级任务稳定运行在腾讯云上,可用性达99.9%。

MiniMax是一家专注通用大模型研发的独角兽创业企业,拥有文本、语音、视觉多种模态融合的通用大模型引擎能力。研发过程中,每日亿级的调用次数,也带来了对算力的海量需求。

从2022年6月起,基于算力集群、云原生、大数据、安全等产品能力,腾讯云为MiniMax搭建了从资源层、数据层到业务层的云架构。

在资源层,高性能、高弹性和高稳定的算力需要借助专业的云服务。腾讯云协同优化单机算力、网络架构和存储性能,为MiniMax构建起大规模、分布式的HCC高性能计算集群。

借助腾讯自研的星脉网络,HCC集群将通信损耗降到更低;CFS Turbo、COS+GooseFS高性能存储,使得上千个计算节点能同时高速读取训练数据。

同时,利用腾讯云容器服务TKE,MiniMax实现了对不同规格云服务器的统一管理和调度,各种类型的应用和服务得以部署在同一套基础设施上,资源实现了高效整合,资源利用率大幅提升;

基于云原生的管理方式,支撑7*24小时的全局监控视角,支持编排、框架、实例等多层级的指标监控。一旦触发故障,能够在5分钟内恢复任务、10分钟内恢复基础设施,无需人工干预完成,能够最大化保障任务连续进行。

根据实测数据,在云底座的支撑下,腾讯云助力MiniMax扛住了激增的并发计算量;基于云原生架构,MiniMax整体用云成本降低了20%。

在数据层,MiniMax在大数据分析方面也有大量的任务需求。

通过腾讯云的数据集成DataInlong、流计算Oceanus、数据湖计算DLC等云原生大数据产品提供的数据处理能力,对大量数据做实时或离线分析,满足了MiniMax在各个阶段的数据分析需求,实现数据的快速灵活部署。以容器化的方式使用大数据组件,使得模型验证、推理等任务得以按计划推进。

此外,大模型研发过程中,MiniMax对云上资产安全、Web业务运营风险、DDoS攻击防护等高度关注。

通过引入腾讯云的防火墙、WAF、主机安全、漏洞扫描、数据加密、iOA零信任安全管理等一系列安全产品,MiniMax实现了对云上资产的全方位保护,确保业务的稳定运行和数据的安全性。

业务上云后,基于海量、弹性的算力支撑和大量改进调优,MiniMax的大模型研发得以加速。

MiniMax业务副总裁魏伟表示:“成熟的云基础设施,既满足了业务弹性与稳定性的需要,又提升了研发效率。MiniMax将进一步扩大用云规模,与腾讯云加速训练、推理等更多业务场景的云上落地,共同打造面向大模型的云上基础设施。相信未来,云计算会为AIGC带来更多可能。”

在算力集群、星脉网络、向量数据库之外,腾讯云还推出了涵盖模型预训练、模型精调、智能应用开发的一站式行业大模型解决方案,助力企业快速搭建专属模型。

未来,腾讯云将继续通过软硬一体的方式,持续加速全社会云上创新。

标签:

猜你喜欢

陇剑出鞘,谁与争锋丨第二届“陇剑杯”网络安全大赛重磅来袭!
Bioagen博奥真超导眼霜,独家复配成分,助力眼周肌肤健康
Bioagen博奥真超导面膜,全维靶向肌肤深层,助力轮廓紧致
明星级护肤:Bioagen博奥真科学复配,只为超导面霜、眼霜源头助力年轻态
Bioagen博奥真超导面膜、面霜、眼霜、精华,专研科技助力肌肤突破时间法则
直面衰老,焕活年轻态,元气因引领新时代
唯有健康,可敌岁月,Bioagen博奥真超导面膜根源助力肌肤健康
连续四年增速第一!浪潮云海超融合2023年第一季度位列中国前三!
蓝凌凭MK-BPM获评2023中国流程挖掘卓越厂商
专访明略科技CTO郝杰:大模型也会被颠覆,要找到产品的临界点!
中国云WAF市场规模超越硬件WAF长亭科技市场份额位居中国私有云WAF第二
迈富时助力企业与时代共发展
电力核心系统再获突破!麒麟软件助力全国首套光伏监控系统正式投运
省级荣誉!鹏力塑造一项目获2022年度江苏省科学技术奖三等奖
第五届短视频创作大赛启动,智云以“价值回报”策略引领行业发展
赛默飞发布2022年度企业社会责任报告
微赞全新AI产品正式发布,驱动企业直播数智化升级
CUKTECH酷态科中文品牌名发布,品牌搭建初步完成
腾讯会议首发轻量化混合式教学解决方案,助力教学数字化升级
HashData:让大模型“飞入寻常百姓家”
首次公开亮相!知己AI大模型解决机器视觉行业痛点
第十一届网技联年会|方正电子:让科技创新为行业发展赋能
把脉中国经济新动能,移动云助推数实深度融合
在人类月球日致敬航天 添可航天研学招募一起感受先进宇宙科技
AI驱动RNA药物研发,剂泰医药领跑“AI+药物递送”新赛道
思尔芯助力高讯科技加速8K60超低延迟视频编译码芯片开发
助力数字内容产业创新,元数云显奇能
ICCV2023论文接收 天翼交通多项创新技术行业领先
SAP助力徐工全球化发展,共建世界一流企业
四相科技携煤安认证新品亮相2023新疆煤博会