英特尔闪耀2024稀土开发者大会:共绘科技未来蓝图!

2024-07-04 15:43:23     来源:

6月28日至29日,「稀土开发者大会」在北京圆满落幕,这场为期两天的盛会以“代码不止 掘金不停”为主题,汇聚了业界精英的璀璨光芒。活动特邀5位重量级主论坛嘉宾、12位卓越出品人以及超过70位技术先锋,精心策划了10大前沿主题分论坛,跨越地域界限,携手引领技术潮流,深入剖析行业最新趋势与未来发展方向。

1720077689419231.png

作为本次大会的战略合作伙伴,英特尔不仅在主论坛与分论坛上贡献了精彩纷呈的内容,更在外部展区大放异彩,聚焦于大模型与genAI的赋能展示。不仅展现了其在推动AI技术革新方面的深厚实力,更为参会者搭建了一个近距离感受未来科技魅力的平台。

开放生态 赋能创新

英特尔公司副总裁、英特尔中国软件与先进技术事业部总经理李映在稀土开发者大会主论坛上带来了主题 《开放生态,赋能创新:英特尔如何通过开源开放推动GenAI 产业生态繁荣》 。会上,他强调英特尔公司通过技术趋势引领和开源社区建设,推动社区繁荣,同时在硬件支持和创新项目培育方面发挥着重要作用。英特尔的技术合作释放了硬件算力,OS优化快速部署,显著提升了性能,尤其是在veLinux操作系统上的应用性能。通过社区治理和创新项目,展示了硬件级安全方案和资源管理的重要性。英特尔还推动了AI创新应用在多媒体内容生成、教育等领域的发展。

展望2024年,英特尔计划通过开放生态系统解锁企业人工智能,推动异构计算AI加速框架,与Linux Foundation等合作伙伴共同构建开放、标准的多架构加速计算生态系统。英特尔中国将继续加强全球开源社区合作,加速技术应用创新,推动产业落地,释放底层算力,实现AI的无处不在。

1720077710486446.png

图:英特尔公司副总裁、英特尔中国软件与先进技术事业部总经理李映

「大模型部署与推理的分论坛上,英特尔高级软件工程师 缪金成、英特尔AI框架软件工程师 王锡贵 分别带来了《使用英特尔优化工具加速GenAI/LLM应用》以及《英特尔基于transformer的工具集加速LLM》的主题演讲。

缪金成首先介绍了至强平台凭借其强大的计算能力和可扩展性,在支撑复杂LLM运行方面的独特优势。具体而言,通过利用该平台提供的32个物理核心以及 xFT + vLLM技术,实现了多路并发的卓越效果,显著提升了模型处理速度与响应能力。他进一步分享了具体的部署经验,包括如何选择合适的硬件配置、优化软件栈以充分利用硬件资源,以及利用部署工具简化流程、加速部署周期。最终,通过实例展示,验证了至强平台在支持高并发、低延迟LLM服务方面的卓越表现。

1720077734436668.png

图:英特尔高级软件工程师 缪金成

王锡贵着重介绍了英特尔扩展工具包,这是一个为加速Transformer模型而设计的创新工具集。他详细说明了该工具包如何支持模型量化,以减少内存占用同时保持计算精度。并分享了全面的安装和配置指南,指导用户如何在不同的操作系统和软件版本上部署和优化模型。此外,他还列出了工具包支持的大型语言模型,并提供了详尽的性能数据,展示了这些模型在不同硬件上的表现。

1720077752379060.png

图:英特尔AI框架软件工程师 王锡贵

「GenAI技术实践」分论坛上,英特尔软件工程师 林立凡带来了主题为《火山引擎g3i实例:基于第五代至强处理器的文生图实践》

林立凡在演讲中总结了基于英特尔第五代至强处理器在文生图技术上的实践突破。他强调了火山g3i实例的架构优势,特别是Intel AMX技术如何通过硬件加速提升深度学习性能。同时,他介绍了英特尔软件栈的优化,包括针对PyTorch、TensorFlow等框架的调整及AMX性能优化。通过Huggingface pipeline的实战案例,展示了这些优化如何在实际应用中提升图像生成服务的效率。

1720077770550548.png

图:英特尔软件工程师 林立凡

「大模型工具链的应用与实践」分论坛上,英特尔AI框架软件工程师 王再励带来了主题为《助力PyTorch加速大语言模型》

在演讲中他深入剖析了Intel Extension for PyTorch,这一专为强化PyTorch在英特尔平台上性能的定制优化工具集。王再励简明扼要地介绍了三大核心优化策略:算子级优化、自动混合精度加速及数据布局智能调整,这些策略协同作用,显著加速了深度学习模型的训练与推理过程。针对大型语言模型(LLM)的内存瓶颈,王再励介绍了一系列创新优化方案,涵盖GEMM计算加速、图结构优化、权重量化技术、K-V缓存策略优化及高效的分布式推理方法。他特别强调了SmoothQuant与权重量化技术的应用,这些技术能够在保持模型精度的同时,大幅提升计算效率。

1720077791976325.png

图:英特尔AI框架软件工程师 王再励

展区探秘 科技触手可及

走进英特尔展区,立刻领略到科技的前沿魅力。展区设计现代且富有科技感。展品展示了英特尔的发展历程和最新技术成果,还通过丰富的互动体验,让参观者近距离感受科技的魅力。无论是科技爱好者、专业人士还是普通观众,都能在这里找到感兴趣的内容,全面了解英特尔如何通过科技创新引领未来。

1720077814900325.png

1720077842607052.png

 

标签:

猜你喜欢

途鸭雅思:以独特教学口碑特色,引领在线雅思培训新风尚
高士创新跑鞋解决方案正式发布
电信诈骗,共筑防线 —— 中兴视通与警企携手掀起反诈宣传热潮
第二届无畏契约全国大赛总决赛即将热血开赛!
三星MICRO LED Pop-up许昌站启幕,百万级MICRO LED首展中原
以崭新视野诠释奥运和残奥精神 三星携手法国艺术家在巴黎开展全新艺术活动
钉钉与松下信息达成战略合作,探索传统制造业数智化转型
调研手记 | 新能源重卡带来的改变不止经济性
铸造工业软实力,共创数字新生态——HDC2024工业分会场嘉宾演讲回顾
北斗星通“智能位置数字底座”创新应用入选“北斗应用典型案例”
流水线工人自考大学成变频器维修高手,在抖音卖出小众工具书近万本
易宝支付党支部获评“通州区先进基层党组织”荣誉称号
多重奖励拿到手软,OPENAIGC开发者大赛燃爆这个夏天!
Soul App积极践行企业社会责任,获人民网点赞
国产操作系统携手AI,用户体验全面升级
操作系统独角兽企业助力北京打造信息技术应用创新产业高地
数字财税:致远互联业财税票档一体化解决方案
年轻羽毛球新星(17岁)与资深跑酷冠军(39岁)猝死:重新审视运动与后新冠时代健康的关系
通用Agent再升级,游戏办公全精通!昆仑万维/智源/NTU/北大联合发布Cradle
软通动力与智元机器人签署战略合作协议,共拓人形机器人“具身智能”能力新边界
依图科技召开2024战略合作伙伴大会
正式邀测! OS Copilot——一款基于大模型构建的 Linux 智能操作系统助手
AI主战场,国产GPU开始凭万卡集群入场!
简化流程,提升效率,灵光Lixel助力房产测绘作业
麒麟信安LTF框架上线openEuler社区
本迪戈和阿德莱德银行与MongoDB合作,利用生成式AI对银行核心技术进行现代化改造
AI大潮下,瓴羊如何助力企业传统客服机器人如何“华丽转身”?
覆盖科研、财经专业场景,腾讯元宝AI深度搜索上线
紫光云彣神凝 DDR5 马甲内存:融合科技与艺术的性能之作
数智共创 商业共赢