2023年5月5日20时,趋动云总架构师Johny在Datawhale《AIGC主题:ChatGPT从入门到应用》系列学习中与大家直播分享了《大模型的算力挑战与机遇》相关内容,从大模型的用处、大模型对算力的挑战、算力池化如何优化算力供给、算力池化建设的最佳实践等方面对火热的大模型相关内容进行了讲解,干活满满。
近年来,随着经济与社会发展数字化、网络化趋势不断加剧,全球产业界逐渐认识到云计算技术对于引领新一轮的产业变革具有重大意义,促进云计算发展已经成为世界各国提升国家综合竞争力、维护国家安全以及在国际科技竞争中掌握主导权的重大战略。趋动云以“连接算力·连接人”为使命,是趋动科技利用其在算力资源池化和开发训练平台领域的深厚积累,面向企业、科研和个人AI开发者构建的开发和训练平台,可以为万千企业和AI开发者带来又便宜、又好用的AI算力池化云服务,通过为AI算法开发全流程提供优化服务,并构建全球开发者数据和项目资源分享社区,帮助AI开发者快速实现最佳实践。趋动科技作为软件定义AI算力技术的领导厂商,专注于为全球用户提供国际领先的数据中心级AI算力虚拟化和资源池化软件及解决方案,已完成中关村高新、国高新、“专精特新”等企业认证。
直播中,Johny老师不仅围绕大模型的算力挑战与机遇方面的内容进行了讲解,课件分享完后还针对常见的一些问题进行了问答,比如说大家常问的“GPU可以集群吗?还是说是用的分布式的方式分配运算应用层?” Johny老师的回答是“从物理层面来讲,GPU肯定是可以被集群化的,在用GPU的时候会分成几种方式,在AI推理的时候只要模型不是特别大的话是可以用单卡的方式实现的,AI训练的时候使用集群化的情况是更多的,因为对算力、显存的要求多。集群的方式要从两个层面来看,第一个物理层面,要先把物理的服务器变成一个集群,相互之间有高速的网络连接,这是必备的要素。第二个,要用集群的时候会分成两种,单机多卡和多机多卡,单机多卡比较简单,大多数情况下单机多卡足够跑很多模型,多机的时候就需要用到分布式的方式来做,分布式方式就会从框架层面去做一些分布式的动作,来实现所需要的分布式的效果。
随着科技浪潮的愈演愈烈,生成式人工智能快速的从研究领域向大众领域扩散,尤其是ChatGpt的发布让更多人期待人工智能可以全面落地,大模型及AIGC所带来的结构性的变化给大众的生产生活带来了巨大的挑战。趋动云的此次直播学习活动可以让大众从心态上和实践上拥抱AIGC,把握时代趋势,通过学习如何使用大模型,让创意有能力更多的成为应用,更好的利用大模型的生产力工具,创造新的产品,整个直播通俗生动,通用人工智能未来大有可为,趋动云未来更可期。
免责声明：市场有风险，选择需谨慎！此文仅供参考，不作买卖依据。
