AI 2.0需要怎样的AI基础设施?《新一代人工智能基础设施白皮书》给出答案

2024-01-02 13:34:16     来源:

近日,商汤科技智能产业研究院与中国信息通信研究院云计算与大数据研究所,中国智能算力产业联盟,人工智能算力产业生态联盟,联合发布《新一代人工智能基础设施白皮书》(以下简称《白皮书》)。《白皮书》不仅明确了“新一代AI基础设施”的定义、特点和价值,还首次提出“新一代AI基础设施评估体系”,为AI 2.0时代智算产业发展提供重要参考。

新一代AI基础设施成为AI 2.0时代“新基建”

数据显示,过去四年,大模型参数量以年均400%复合增长,AI算力需求增长超过15万倍,远超摩尔定律。以CPU为中心的传统计算基础设施已无法满足大模型、生成式AI的新要求。大模型训练对数据质量和效率的需求,企业应用生成式AI对于MaaS(大模型即服务)的需求,也都给AI基础设施提出了全新要求。

AI 2.0时代,需要新一代的基础设施来支撑大模型的训练与推理、生成式AI应用的规模化落地,其核心要素,如计算、存储、网络以及数据服务都要做精细化的设计和重构,而非简单的服务器或GPU实例堆砌。

《白皮书》明确了新一代AI基础设施的定义:以大模型能力输出为核心平台,集成算力资源、数据服务和云服务,专门设计用于最大限度提升大模型和生成式AI应用的表现:数据准备与管理、大模型训练、推理、模型能力调用、生成式AI应用部署。企业通过新一代AI基础设施开发和运行生成式AI业务和客户应用程序,以及基模型和行业模型的训练与微调。

《白皮书》指出,新一代AI基础设施的建设将降低大模型开发和应用门槛,在政企服务、产业和科研创新等方面创造更大社会价值:面向产业,将加快推进传统产业上下游各个环节的智能化转型,催生新业态、新模式的不断涌现。面向科研,可加速科学实验的自动化和智能化,激发人工智能驱动科学研究(AI for Science)的新范式。面向政务,将原本分散、碎片化的政务应用,通过“一模通办” 为政务服务提质增效。

首次提出新一代AI基础设施评估体系,商汤科技引领新一代AI基础设施

当前,新一代AI基础设施市场处于高速竞争的初级阶段,云计算、AI原生、硬件系统等各类厂商均有各自优势。为了给企业用户提供AI基础设施选型的可靠性指导,《白皮书》首次提出了“新一代AI基础设施评估体系”。通过产品技术、战略愿景、市场生态三大维度、十二个评估指标,对AI基础设施厂商综合能力进行定性和定量的全面评估。

《白皮书》选取了十二家最具代表性的AI基础设施厂商。商汤科技的新一代AI基础设施 -SenseCore商汤大装置,在各个评估指标的得分均超过厂商平均分,并在市场响应、市场认知、产品战略、工程化建设四个评估指标拿到满分,成为新一代AI基础设施市场的领导者。

《白皮书》指出,商汤在产品服务能力呈现出较强的产品实力和技术积累,不仅超前布局了算力基础设施,还在MaaS平台以及自身大模型业务的加持下,形成了整套AI基础设施产品架构,满足客户大模型训练、生成式AI应用的大规模落地需求。

SenseCore商汤大装置作为商汤推出的AI基础设施产品与解决方案,总体算力规模目前已达6800P,在支持商汤自身大模型研发的同时,也支持外部客户训练大模型和应用部署。今年以来,共有超1000个参数量数十亿至上千亿的大模型在大装置上完成训练,实现了领跑行业的技术迭代进度,并支持了数十款生成式AI应用。

图片2.png

商汤大装置全面支撑大模型训练与推理、生成式AI与应用的基础设施

激发“智能基建革新”,加速大模型和生成式AI落地

《白皮书》以商汤基于AI大装置的多场景实践案例为例,阐述了从大型模型训练到生成式AI应用的全过程,再到区域智算中心的建设与运营,深入挖掘了这一全生命周期中的商业创新价值。

·          大模型训练场景

商汤大装置为商汤自研“日日新SenseNova”大模型体系的训练迭代提供了强大算力支撑,以及1.5万亿token和6000亿中文高质量数据,推出了商量大语言模型,AIGC等大模型,并在多个权威大模型测评榜单中位居前列。

商汤还助力某业界领先的认知智能公司打造了高性能算力平台,提高模型训练速度和效率,已成功推出了400亿参数量的大模型,快速满足不同领域和场景需求。

·           生成式AI应用场景

依托商汤大装置,商汤联合中公教育发布虚拟数字讲师“小鹿老师”,相比传统人工直播,不仅降低了80%录课成本,还提高了2~3倍的课程丰富度,实现教学质量和效率双重提升。

商汤还助力微博打造“营销大模型”,让每位博主都能拥有自己的AI营销助手,短短数月便有超7000位微博达人采用AIGC生成69万篇文案,采用率高达95%。

·           智算中心建设与运营

今年10月,商汤与重庆南岸区携手打造的“重庆人工智能计算中心(AIDC)”,以国产化算力为核心,首期建设峰值算力达100 Petaflops,为西南地区的各行各业、科研机构提供AI算力、大模型训练、推理部署和应用开发等服务。

同时,商汤还助力打造福建省大数据算力平台,第一阶段已建成125 PFLOPS算力规模,并有多家数字生态领军企业入驻,有望推动生成式AI技术在医疗、金融、制造等各个产业中的落地。

《白皮书》最后指出,随着新一代AI基础设施的边际成本持续下降、边际效益持续增长,AI将普惠每一个人。

《白皮书》下载链接:https://www.sensecore.cn/whitepaper.pdf

标签:

猜你喜欢

冲浪人生十年记:「冲浪十年」活动喜迎狂欢,未来点燃新希望
膝盖疼怎么缓解?别担心,三种方式来帮你
回首2023 紧盯2024丨嫦娥生物股份举行年终总结大会暨目标责任状签约大会
中诺口腔医院26岁小伙拔牙后对医生赞誉有加事件
中诺拔牙事件 26岁男子拔智齿后当众痛哭:终于不会睡不着觉了!
普宙科技入选2023年工业和信息化领域数据安全典型案例名单
​世界通讯安全新格局下的“中国答案”
客厅影院的C位之选|爱普生EH-LS650B激光电视让我们聚焦在一起
为什么智能手机可以卖299?
以青春之名唱响跨年演唱会,酷狗音乐元旦走进中央音乐学院
三安光通讯"宇航级宽温高速VCSEL"斩获讯石英雄榜优秀技术奖
数势大模型产品SwiftAgent亮相2023QCon全球软件开发大会
探索星空 “佳能EOS点亮中国星空地图”星河探索者活动圆满落幕
网易易盾入选2023中国技术品牌影响力企业榜
牵手觅伊三年,网易易盾为年轻人的社交找回「纯真」
美的鲜净感空气机掀起热销风暴!交出零售销量突破15万套“成绩单”
农产品“年货”消费趋势洞察:水果销量环比增长291%
从通风柜产品的领先性,看实验室通风建设设计方案的关键要点
小水智能应邀出席2024ICT行业趋势年会 分享大模型趋势下的智慧应用机遇
华为出境地图Petal Maps重大更新,携程笔记上线!
正式布局高潜细分赛道,追觅科技推出首款迷你洗烘一体机
能链智电获中证、万得、BITA等指数公司纳入旗下指数
墨迹天气独家观察:当代年轻人跨年图鉴
突破边界:CAR-T治疗的监管挑战与未来
停车场运营如何“增收”?捷停车以精细化运营解锁多元化增收
酷狗音乐获评QuestMobile 2023中国互联网TOP50赛道用户规模NO.1 App
壹品慧被评为“放心消费承诺单位”
小蜂充电正式升级为EVbee小蜂充电,全面开启品牌国际化新征程
把握大脑发育黄金期,美赞臣铂睿科学育儿从现在抓起
一步一个脚印,2023 英特尔锐炫显卡全面收获之年!