信息通信研究院高巍:AI时代下智算广域网发展思考

2024-12-24 19:52:03     来源:

12月23日上午,以“打造超弹性无损智算IP广域网,加速迈向智能时代”为主题的智算IP广域网产业交流会在北京成功举办。会上,中国信息通信研究院技术与标准研究所互联网中心主任高巍进行了《智算广域网发展思考》的分享。

图片1.png

高巍介绍到,人工智能是全球关注的产业热点,在政策和市场的驱动下,国内建设了很多智算资源池,尤其运营商在全国各地布局多级算力资源池体系,如何充分发挥这些智算资源的作用,使其成为各个行业能够使用的智算服务,成为了当务之急,在这里网络需要发挥重要作用,“网效”与“算效”需要提升互促。

智算业务对网络的要求相比传统网络有很大差别。首先,业务特征不同决定了对网络质量要求不同,例如,传统互联网业务对丢包的容忍度在10-2级别,而以RDMA协议承载的智算业务对网络丢包的容忍度在10-7级别,差了5个数量级。其次是流量模型不同,传统业务以海量小流量(“蚂蚁流”)为主,现有网络的负载均衡也是以此前提来设计的,而智算业务是GB级的大流量(“大象流”),将对网络带宽利用率造成很大的挑战。再次,网络服务模式需求不同,当前企业更多是使用固定带宽的网络连接服务,而智算业务的数据传送往往是需要短时大带宽,对网络弹性服务的要求更高。如何通过提高网效,充分发挥算效是现在非常重要的命题。

智算广域网是支撑人工智能计算业务全生命周期的广域网络,是对运营商城域网和骨干网的全面升级,包括支撑企业/行业大量样本传送的入算网络,以及支撑智算中心之间协同训练(参数面互联)的算间网络,将支撑全社会智算资源的高效利用与服务。

当前国内外运营商和互联网纷纷启动智算广域网相关的研究和实践,相关技术也成为IETF、ITU-T等国际标准组织的热点,国内通信标准化协会网络和业务技术委员会也开展了相关的标准研制,智算广域网络标准行标立项5项,国标《智算广域网络总体技术要求》已通过立项预讨论。

高巍介绍了智算广域网的主要场景,包括:1、大样本的快速入算,通过网络带宽动态调度和对大象流的有效负载均衡,实现海量样本数据的快速入算,充分利用高带宽的网络资源。2、敏感样本的边传边训,一些行业样本数据对数据安全要求很高,不希望第三方算力资源进行数据的存储,需要网络实现长距离广域无损传输,直接通过RDMA协议进入算力资源的内存进行训练计算。3、跨DC协同训练,随着大模型参数快速增长,单体DC难以满足算力或能源的需求,需要广域网络连接不同的数据中心进行协同训练,对网络带宽需求很大,且需要保证严格无损,目前业界正在开展相关实验。4、业务推理及模型分发,需要网络带宽灵活调整,并具备安全隔离能力。

未来智算广域网的重点技术研究方向包括广域无损调度算法、跨DC网络的精准流控、广域拥塞控制、智能流量识别与拆分、智算业务可视运维等等。

最后,面向智算广域网未来的发展,高巍建议产业界共同开展技术创新,凝聚产业共识,加快相关规范标准的研究,并通过向业界广泛征集典型案例,不断积累经验,相互借鉴,加快智算广域网产业和业务的成熟。

标签:

猜你喜欢

以“AI”点亮年末节日季 好礼当选三星Galaxy Tab S10系列
2024全国集成电路产教融合交流对接活动暨第六届全国光子和集成电路“创业之芯”大赛总决赛颁奖典礼在苏州举办
尿酸高?手脚痛风?不用怕! 仁和星油藤茶 “高尿酸”合伙人火热招募中!
名校长论坛发展教育智慧,杭州铭师堂助力普高高质量发展
椰林飘香,高水平专家基层行圆满落幕 护航健康,皮肤健康行永不止步
数启新程·智汇扬州 | 网易(扬州)联合创新中心启用仪式暨入驻项目签约仪式隆重举行
安恒信息首批入选全国网安标委数据安全优质企业培育推进工作组
万元大奖等你来抽!云南移动新年刮刮卡四大优惠福利火热来袭
十年跨越,数智创新:《中国数字普惠金融发展报告》正式发布
加速开发者云上成长,华为云人才培养合作计划开发者活动走进海南科技职业大学
ISICDM 2024观察|东南大学科研团队利用脑电技术和多层脑网络技术研究ADHD获得新突破
数智赋能 华为亮相鄂尔多斯智能网联产业生态大会
F5G全光网持续创新,加速教育数智化进程
火花思维荣获“2024好公司50”行业领先大奖
2024海上丝绸之路国际产学研用合作会议(光电专场)暨中国(温州)新光谷产业合作对接会成功举办
立讯精密(SZ.002475):智能穿戴业务发展迈入快车道
游泳世界冠军汪顺探访时代天使创美基地:感受智能工厂的微笑力量
新的成绩单!Shokz韶音包揽2024年度多个奖项
「纯智快递100」,折叠屏里的新数字快递世界
SEMI G5级半导体超净HDPE桶生产厂商介绍——保视丽
英睿热成像艾睿热成像巡逻舰R1+震撼升级!赋予探险者夜视超能力
中文在线摘得谷子经济桂冠,书写行业新篇章
酷狗音乐x寻声保时捷之旅圆满收官,五城联动探寻城市非遗之声
双旦礼遇季,开启星品狂欢趴:三星玄龙骑士电竞显示器焕新指南请查收
智能助手×无界互联!ThinkPad X1 Carbon Aura AI重塑商务办公体验
新华网评:从乱象丛生到规范发展,探店行业探索线下消费新未来
大学生做得好不好小学生来pick,2024 C4-AI总决赛在中华世纪坛圆满落幕
中新网评:告别野蛮生长的探店行业,释放就业增收新效应
信创浪潮加速来袭 ,世界500强能源企业采用中兴国产操作系统
第二届“IPv6技术应用创新大赛”全国总决赛圆满收官