中昊芯英“刹那®”TPU AI芯片适配百度文心开源大模型ERNIE-4.5-VL,加速多模态运算

2025-10-31 09:17:08     来源:

近日,中昊芯英“刹那®”TPU架构AI芯片完成对百度开源多模态混合专家大模型ERNIE-4.5-VL-28B-A3B的适配与性能实测。此次适配验证了国产TPU架构算力基座对前沿MoE模型的高效支撑能力,更开创了“国产创新芯片架构+国产开源大模型”的生态范式。

中昊芯英成立于2018年,由前谷歌TPU芯片核心研发者杨龚轶凡携一批来自谷歌、微软、三星等海外科技巨头公司的AI软硬件设计专家组建。公司核心团队掌握从28nm到7nm各代制程工艺下大芯片设计与优化完整方法论,全栈式的技术梯队覆盖芯片设计、电路设计、软件栈研发、系统架构、大模型算法等各类技术领域,研发人员占比70%以上。

历经近5年的研发,中昊芯英推出的“刹那®”TPU架构高性能AI专用算力芯片,拥有完全自主可控的IP核、全自研指令集与计算平台。该芯片采用专为AI/ML而生的 TPU 芯片架构,在AI大模型计算场景中,算力性能超越海外著名GPU产品近1.5倍,能耗降低30%同时,通过采用Chiplet技术与2.5D封装,实现了同等制程工艺下的性能跃升,并支持1024片芯片片间互联,实现千卡集群线性扩容,支撑超千亿参数大模型运算需求。

此次中昊芯英“刹那®”TPUAI芯片适配的百度开源的ERNIE-4.5-VL-28B-A3B模型(以下简称 ERNIE-4.5-VL)是百度文心开源大模型ERNIE-4.5系列中的一款多模态MoE大模型,于2025年6月30日随文心4.5系列一同开源。该模型总参数量为28B,激活参数量为3B,采用异构混合专家架构(MoE),在跨模态理解与生成、长文本处理等领域表现卓越,适用于智能导览、视觉客服等多种场景。

文心4.5系列模型均基于飞桨深度学习框架进行高效训练、推理和部署,在大语言模型的预训练中,模型 FLOPs 利用率(MFU)达到47%。实验结果显示,该系列模型在多个文本和多模态基准测试中达到SOTA水平,在指令遵循、世界知识记忆、视觉理解和多模态推理任务上效果尤为突出。

在此次的技术适配方面,中昊芯英凭借“刹那®”TPU AI芯片强大的并行处理能力,与ERNIE-4.5-VL的架构设计实现了深度融合。芯片的可重构多级存储、近存运算设计以及流水线式的时空映射,有效提升了大模型计算速度和精度,为模型在复杂任务中的运行提供了高效支持。同时,针对ERNIE-4.5-VL的多模态特性,“刹那®”TPU芯片在处理视觉、文本等多模态数据时,展现出了出色的兼容性和运算性能。

根据实际运行效果表明,在基于“刹那®”TPU AI芯片构建的“泰则®”AI服务器上驱动运行 ERNIE-4.5-VL 模型时,性能表现与海外著名GPU产品齐平。 这一数据有力地证明,“刹那®”TPU AI芯片不仅在技术架构上具有先进性,在实际应用中同样拥有强大的性能表现和商业价值。

除了性能数据方面,中昊芯英技术团队还成功基于“刹那®”TPU AI 芯片运行了ERNIE- 4.5-VL的多项复杂多模态任务。例如,在古文识别任务中,模型能够精准理解古文字体并给出相应出处典故,整个过程流畅运行,无缝衔接。这进一步佐证了在针对大模型方面,中昊芯英“刹那®”TPU AI芯片能够为ERNIE-4.5-VL提供稳定且强大的算力基础。无论是大规模的模型训练,还是实时性要求较高的推理任务,“刹那®”TPU AI 芯片都能满足需求。此外,通过与百度飞桨框架的紧密配合,进一步优化模型在芯片上的运行性能,可以更好的为开发者提供更加便捷、高效的开发环境,有助于推动大模型技术在更多领域的应用和创新。

中昊芯英创始人及CEO杨龚轶凡表示:“此次适配验证了国产算力与模型协同创新的可行性。“刹那®”TPU AI芯片作为专为大模型设计的算力引擎,与ERNIE-4.5-VL的异构MoE架构形成完美互补。接下来我们将持续深化与百度的技术共研,推动从3B到424B全系列模型的硬件加速方案落地,为产业提供更高效可靠的国产自主AI基础设施。”

 

标签:

猜你喜欢

10月30日晚8点来京东11.11换新手机 多重补贴至高立减2000元
中感集团煤仓安全综合解决方案亮相中国国际煤炭采矿展,以系统性创新重塑矿山作业安全
神眸双目枪球AOR电池云台机斩获安博会「金鼎奖」,以研极芯芯片创新监控新格局
京东11.11现货加码!买iPhone 17 Pro就来京东11.11 新品首降超千元
国补覆盖更多、优惠力度更大 这波买Apple还是建议来京东
赫铂莲——源自植物外泌体的馈赠,给私密肌最纯粹的宠爱 天然成分,纯净呵护
迅雷会员双11大促:SVIP年卡低至2.8折享多重权益
鸿蒙独家精品卡片+持续迭代,鸿蒙版腾讯新闻带来更智能的一站式资讯服务
别让版本选错拖慢出海节奏!搞懂WhatsApp三大版本,效率直接翻倍
AI应用驶入快车道,合肥企业掀起智能化变革浪潮
伯克利地标2425 Durant Tower EB-5项目获移民局批准
错过再等一年!30日晚8点京东11.11潮流配件尖货抽签1元抢
星环科技与国泰海通签署战略合作协议,共探AI重构数据应用新未来
10大鸿蒙独家功能+10项功能更新,鸿蒙版新浪财经APP打造更智能、便捷理财体验
灵童“璇玑”蛋形机器人低至5折抢 10月30日晚8点京东只需49.5元
杭州知墨装饰获千万级天使投资,智能建筑赛道再添生力军
中云信息技术获千万级天使投资,工业物联网领域再添生力军
直通第五届无畏契约全国赛,掠夺者PL Girls的含金量还在上升!
青岛教育展爆款:判判智能批阅助教机,解放教师双手,实现精准教学!
明源云AI智能问数,荣获第四届“鼎新杯”数字化转型应用典型案例
盈拓国际展览:2026年俄罗斯莫斯科国际建材展览会(MOSBUILD)一站式服务破解俄语市场壁垒,高效对接8万专业买家
海柔创新闪攀机器人、K1200亮相亚洲物流展,新智造中心提升10倍产能
量化派构建AI技术护城河,打造高品质消费体验
真正的11.11来了!京东家电家居11.11品质爆款低至1折限量抢
双十一撒福利:好价好机,尽在宏碁!
探索AI时代发展新机遇新浪新闻·2025探索大会将在京举行
施耐德电气母线工厂获零碳认证,以“零碳样本”推动可持续发展
博联智能闪耀香港秋灯展!Matter超级网桥重塑全屋智能新体验
ROG 9 Pro获2025 G-Mark设计奖:游戏神器亦为美学标杆
未来可“7” 恒昌将第七次全阵容共赴世界互联网大会乌镇峰会