数字科技生态大会召开,天翼云发布一站式智算服务平台“慧聚”

2023-11-12 14:32:27     来源:

11月10日,以“数字科技 焕新启航”为主题的2023数字科技生态大会在广州市举办。会上,天翼云重磅发布一站式智算服务平台“慧聚”。天翼云科技有限公司董事长、总经理胡志强对天翼云智算服务体系进行了全面解读。

2023年是大模型高速发展的一年,大模型不断扩大的参数规模和快速迭代的技术路线跨越式地提升了模型的能力,但是同时也为大模型的训练和应用带来了很多挑战。比如算力利用率的瓶颈日益凸显、算力成本压力进一步增大、模型的构建难度不断提升、模型的行业落地更加复杂。

胡志强表示,为顺应大模型时代对于云服务商的新要求,天翼云全面升级,构建了全栈大模型智算服务,包括打造智算数据中心AIDC、升级云智超一体化基础设施平台“云骁”、推出一站式智算服务平台“慧聚”、构建国云大模型生态,形成云智一体的智算服务体系。

整个体系的基石是智算基础设施。针对AI高强度运算带来的散热问题,天翼云推出了液冷DC舱,融合定制化液冷智算服务器,实现低至1.12的PUE。与此同时,天翼云也将“云骁”升级成为云智超一体化基础设施服务平台,构建了高性能RoCE网络、并行文件存储等服务;重点提升训练加速、网络加速等核心能力,同时升级了运维体系,实现对基础设施的全面故障预测和感知。在国产化方面,“云骁”平台率先在公有云加载天翼云RoCE网络+国产GPU方案并实现商用。

在平台层,天翼云发布大模型的一站式智算服务平台“慧聚”。“慧聚”平台将大模型开发训练过程中的关键流程、复杂技术和宝贵实践经验进行总结和抽取,构建出一站式全链路的大模型生产应用的流水线,大幅降低大模型训练、微调、部署、推理的门槛,让客户能够更专注于模型升级和应用落地。

在技术上,“慧聚”平台成功突破了算子加速、模型并行、断点续训等技术难点,将高性能计算能力、分布式算力调度能力、训练和推理多环节加速技术、高性能数据存储技术进行封装,稳定性、训练推理速度等核心指标大幅提升。

在功能上,“慧聚”平台基于数据平台、模型开发平台、模型服务平台和应用服务平台四大平台,提供数据准备、模型开发、任务管理、模型优化等多个产品功能模块,每个功能模块又包含多级组件。功能与组件之间可以灵活组装,帮助用户打造针对不同场景的专属工具集。

基于全新的基础设施服务平台“云骁”和智算服务平台“慧聚”,天翼云已经为大模型开发者、大模型提供者、应用厂商、政府与科研机构、行业协会等合作伙伴提供多种生态模式支持。

依托国云智算底座,发挥国云安全优势,天翼云将与产业各方合作伙伴紧密协作,广泛汇聚国内外AI芯片伙伴、各类通用大模型及行业大模型伙伴及广大开发者,共建繁荣的大模型创新生态,携手打造先进的智算生产力,全面赋能经济社会的数字化和智能化。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。

标签:

猜你喜欢

云天畅想茅晓东出席乌镇咖荟:致力于提升下一代数字体验
AORO遨游M6天通卫星电话应急终端斩获2023“直通乌镇”全球互联网大赛三等奖
解密马上消费自研与自营的成长螺旋
格创东智出席《财富》中国500强峰会 助力企业实现高质量发展
天地一体,时刻守护,天翼铂顿S9 5G卫星双模手机正式发布
华大北斗荣获2023年度卫星导航定位科技进步奖特等奖
《完蛋!我被美女包围了》微博爆火,主演王星辰登顶游戏热门榜
爱聊开展双十一脱单活动,邀请用户释放单身讯号
推动两岸电子信息产业深度融合发展——第二十一届中国(苏州)电子信息博览会开幕
中国制造网“2024外贸突围之路”峰会在宁波举行
华为云联创营云上综合治理班武汉站开班 探寻上云管理之道
佗鹊堂:打造中草药国际化供应链平台
轻量应用服务器怎么选?华为云11.11营销季企业快成长直播间带你三步建站、轻松上云
鸿蒙开发者有多抢手?微博、京东等互联网巨头都在抢!
2023《最美表演》收官,用十年光影描绘最美时代
清华大学等21所985高校开设鸿蒙课程,教鸿蒙、学鸿蒙成为新风潮
双11省钱娱乐攻略,上华为浏览器免费畅读正版小说
华为云空间放大招,双十一购包年套餐再赠两个月时长!
英特尔CEO:“四年五个制程节点”进展正在得到第三方肯定
二手玫瑰改行回收“旧家电“, 让全部旧家电先换起来!
中国工会十八大 | 德力西电气再出全国代表,赴京履职尽责,建言献策
第六代民用智能中高压氧舱:时光珠超前科技改写衰老规则
星速引擎技术加持,天玑9300带来丝滑短视频创作体验
迅达嵌入式燃气灶:智能与高效的完美结合,让烹饪更上一层楼
解决双机党空间焦虑,双十一升级华为云空间超大容量!
云空间容量不够用?华为云空间双十一限时福利,速来升级!
迅达集成烹饪中心:科技与美食的完美结合,让烹饪更智能
九壶健康 |健康喝酒用智樽™
万里路®XR系列正式首发:首次纳入人工智能技术设计的镜片概念
国家自然博物馆再升级,上新「神奇的非洲」「植物世界」两大云端虚拟展厅!