浪潮信息发布大模型智算软件栈 OGAI,为大模型创新打造高效生产力

2023-08-28 10:29:14     来源:

8月24日,浪潮信息正式发布大模型智算软件栈 OGAI。OGAI (Open GenAI Infra)“元脑生智”,是为大模型业务提供AI算力系统环境部署、算力调度保障及模型开发管理能力的全栈全流程的智算软件栈。OGAI由浪潮信息基于大模型自身实践与服务客户的专业经验而开发,旨在为大模型研发与应用创新全力打造高效生产力,加速生成式AI产业创新步伐。

大模型是当前通用人工智能产业发展创新的核心技术。目前国内已发布的生成式AI模型超过了100个,“百模争秀”的格局初现。但大模型从研发到应用的各环节中,依然面临诸多挑战,如大模型算力的系统全栈问题、兼容适配问题、性能优化问题等。

OGAI是浪潮信息从当前大模型算力建设、模型开发和应用落地的实际需求出发,秉承全栈全流程、算力充分释放、实战验证提炼的设计原则打造而成。OGAI由5层架构组成,从L0到L4分别对应基础设施层的智算中心OS、系统环境层的PODsys、调度平台层的AIStation、模型工具层的YLink和多模纳管层的MModel。

L0层智算中心OS:面向大模型算力服务的智能算力运管平台,满足多租户以裸金属为主的弹性AI算力运管需求。其中,高效的裸金属服务支持分钟级部署上千规模裸金属节点并按需进行弹性扩展,实现异构计算芯片、IB、RoCE高速网络、高性能存储等环境一键获取,并实现计算、网络、数据隔离以保障业务安全。

L1PODsys:开源、高效、兼容、易用的智算集群系统环境部署方案。聚焦智算集群部署场景,从OS、驱动到系统监控可视化、资源调度等集群系统环境要素全面覆盖,选用最稳定和广泛兼容的软件版本,通过一系列脚本工具简化部署过程,缩短算力上线周期,并可向企业用户提供实施安装服务和集群性能校准的专家服务。

L2AIStation:面向大模型开发的商业化人工智能算力调度平台。针对大模型训练中常见的训练中断难题,可实现训练异常快速定位,断点自动续训:通过快速定位芯片、网卡、通讯设备异常或故障,实现全局训练暂停保持,热备算力自动弹性替换,健康节点快速CheckPoint读取,实现断点自动续训。

L3YLink:面向大模型数据治理、预训练、微调的高效工具链。聚焦于大模型的数据治理、预训练、微调等开发过程,集成了浪潮信息在大模型研发中的自研工具和开源工具,如数据处理工具包(Y-DataKit)、大模型训练工具包(Y-TrainKit)和大模型微调工具包(Y-FTKit)等等,通过这些多样且完善的工程化、自动化工具,加速大模型的训练和开发效率。

L4MModel:提供多模型接入、服务、评测等功能的纳管平台。核心组件包括数据集管理、模型纳管和评测,可以方便开发者和研究人员更好地管理多版本、多类型的基础大模型与任务模型,并通过多样化的评测数据集与评测任务,对多个模型进行生成准确率、推理延迟、推理稳定性等指标进行全面评估。

浪潮信息高级副总裁、AI&HPC总经理刘军表示:“OGAI提供完善的工程化、自动化工具软件堆栈,将帮助更多企业顺利跨越大模型研发应用门槛,充分释放大模型创新生产力。浪潮信息将通过智算系统软硬件高度协同进行持续创新,持续培育繁荣元脑生态,推动实现‘助百模,智千行’,加速生成式AI产业创新。”

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。

标签:

猜你喜欢

深信服与趋动科技推出联合方案,高性能存储助力AI大模型研发
ST开元:上半年实现营收2.15亿元 新能源储能及钠离子电池业务加速落地
东方甄选入淘首秀货盘将超300款,全场自营产品8.8折
2023中国算力大会丨中兴通讯坐实算力底座,加速数智新生长
护航亚运:数智化赋能,浙商大学生开辟飞机巡检“新视界”
成都民生耳鼻喉医院:是“三阳”还是咽喉疾病,一篇文告诉你
根深叶茂,共谱华章丨智涌钱潮2023产教科融合数字人才培养论坛成功举办
布达佩斯人工智能联合开放平台正式启动,面向欧洲提供AI服务
全新阿维塔11鸿蒙版正式上市,智能座舱再升级
不止山水!黄山又添“三创”新名片
“直击”AI新世界,火炬咖啡用人工智能机器人讲述科创惠于民故事
AI新技术助力武汉米虫元宇宙发展
氢创科城迈向纳斯达克,上市前并购签约仪式隆重举行
数字实战|数字化IT建设与企业战略同频,做正确的事
国际领先!衷华脑机独立研发“植入式脑机接口系统”通过专家认定
CCF HPC China 2023│华为以算力互联,智领数字未来
小裂变•SCRM+小裂变•视频号助手,助力企业涨流量、涨销量!
喜报|星瑞格荣获“2022-2023年度国产数据库应用优秀解决方案”奖项
米虫元宇宙:未来趋势不可小觑!
三星Big Screen TV Pop-up落地江城,创新显示构筑科技·艺术·家
专业人像镜头,内置超光影图像引擎,OPPO Find N3 Flip影像实力大升级
腾讯视频亮相网络视听精品创作峰会以新成果与新形象开启新征程
Plug&Charge即插即充 Hubject提供认证ISO15118助力海外充电生态
这些手机搭载天玑芯片销量口碑爆棚,“天玑京东品牌日”卖爆尽显旗舰实力
百视通荣获“文化传承发展”网络视听节目展播优秀组织单位
美的小家电斩获2023年度奥维云网云鼎奖,再创生活家电领域佳绩!
内外衣也能混洗?这道难题有解了!
游戏防沉迷成效显著,家长更不能放松警惕
未成年防沉迷功力逐年上涨,腾讯在这方面真的没有对手
从颠覆者到领导者,凯度再度斩获中国集成厨电行业两项重磅大奖!