国产GPU对决!清华经管联合Plaso伯索,“AI+教育”5大场景横评

2025-08-08 10:31:00     来源:

人工智能技术的迅猛发展,正深刻重塑着教育形态。清华大学经济管理学院(下称“清华经管”)作为国内顶尖院校,积极推动人工智能技术与教育教学的深度融合与应用,聚焦实际业务场景,追求落地实效,借助AI技术创新人才培养模式、改革教学方式。清华经管采用Plaso伯索旗下“英飞 AI WorkSpace”平台,在教学、科研、行政管理等场景开展了深入实践,其“交互式数字画布+AI智能体”的核心技术和产品理念,高度契合清华经管对AI场景的需求,探索出了一条基于实际业务场景、真正可落地的创新实践路径,并取得了显著成效。随着探索的拓展和深入,AI大模型在处理教育场景中特有的短文本对话交互、长文本总结摘要、长文本生成扩写、长文本翻译解读、高并发场景时,对高性能GPU支撑的需求正愈发凸显。可以说,GPU作为大模型应用的基础设施,其性能直接关系到“AI+教育“场景的落地效率、应用深度和用户体验,是支撑高质量、多元化“AI+教育“场景的基石。

与此同时,在面对复杂的国际环境与国家关键核心技术自主可控的时代要求下,肩负“服务国家战略与引领教育创新”双重使命的清华经管展现出了责任担当和示范引领,在教育领域率先部署国产GPU方案,并进行性能验证。

为此,清华经管联合Plaso伯索,聚焦5大“AI+教育”应用场景,对相关国产GPU展开了全面深度测试。

清华经管AI+教育”落地实践清华经管依托Plaso伯索旗下“英飞 AI WorkSpace”打造AI体验中心,通过实际应用场景的搭建,全方位、多维度落地AI场景,融入教学、科研和行政管理等各个主要场景。

在教学领域,AIGC可生成课程的知识图谱、能力图谱,构建赋能“知识传授、能力培养、价值塑造”的三位一体的多智能体协同育人空间,教师在知识传授过程可以使用AI用具体示例对某一晦涩难懂的概念提供清晰的多段式解释,并给出不同角度的理解。此外,AIGC还能根据学生的学习数据生成个性化学情报告,有助于提升教学的针对性和有效性,为教师提供精准教学参考,为学生提供更优质的教育资源。

在科研方面,清华经管重点聚焦将AI技术应用于科研与学科数据的采集、分析与应用领域,系统性探索学科交叉创新路径,实现异质知识体系的高效融合。学院将于近期推出AI科研工作台,为科研工作者提供全新的智能协作范式。

在行政管理领域,英飞 AI WorkSpace也有诸多实践应用。例如清华经管教师人事管理部门使用多智能体技术重构了海外人才引进的流程,构建了“AI人才引进空间”和“人才引进AI档案袋”,通过使用AI对应聘教师的简历和CV进行关键信息提取,自动筛选和匹配符合要求的人才简历,简化人才招聘流程,提高招聘效率和准确性。减少招聘过程中的人力和时间成本,提高招聘质量。

此外,Plaso伯索配合清华经管已经完成了诸如“三会一课AI党建空间”、“青年教师顾问组空间”、“学生职业发展空间”等多个AI赋能的场景规划和设计,随着2025年秋季学期的展开,将陆续上线与应用。

测试方法及指标体系构建考虑到AI在教学、科研、行政管理等业务场景的实际应用中,涉及到大量的学院本地化数据处理,为满足数据安全与合规要求,清华经管采用私有化部署GPU来实现。基于上述具体业务场景的需求,清华经管联合Plaso伯索共同规划设计了具备代表性和实用性的测试方法与指标体系,对国产GPU展开深度测试。结合业内通用开源测试方法-vLLM性能基准测试套件及LLMPerf开展了对国产人工智能服务器的实测评估测试。本次评估测试围绕推理场景展开,包括推理性能测试及多维度推理准确性测试。

为保证测试结果的公正与合理,推理性能测试部分具体实施规范如下:

1测试环境标准化配置

模型版本:统一部署 DeepSeek-R1-671B 模型(20250120) INT8 量化版本

运行环境:模型部署所在 的AI 服务器(避免网络波动等场外因素干扰);

2动态填充测试框架

并发控制:初始化 N 个虚拟用户实例构建基础并发压力;

动态补偿:通过智能请求队列管理实现实时请求补充,完成请求与新增请求建立 1:1 映射;

终止条件:设置 M×N 的总请求窗口。

在推理准确性测试部分中,我们调整模型生成参数与DeepSeek-R1原论文一致(temperature=0.6,top-p=0.95)。

本次测试联合清华经管选取了两家主流的国产GPU设备进行多维度测试,以下使用代号A设备和B设备命名。

A设备在INT8精度下各个维度的测试结果:

B设备在INT8精度下各个维度的测试结果:

*具体测试数据详见Plaso伯索官方报道。

整体测试结论通过比较 A设备和B设备在INT8精度下的多维度测试结果,得出以下结论:

推理性能方面:

在长上下文任务中(上下文长度≥4096 tokens,出现在长文本翻译/解读、长文本生成/扩写和长文本总结/摘要场景下),两设备在满足SLO的条件下对并发请求的支持能力无显著差异;在中短上下文任务中(如短文本对话交互场景),A 设备在满足 SLO时的并发处理能力优于 B 设备。

推理准确性方面:

在INT8量化下,A、B设备均能保持模型具有较低的准确度损失,保证用户的使用体验。结语此次清华经管联合Plaso伯索聚焦“AI+教育”核心应用场景,对国产GPU进行的深度测试具有重要意义。

清华经管不仅着眼于自身需求,更立足于国家关键核心技术自主可控的时代要求,不仅是对国产GPU性能的一次严谨检验,更为教育行业乃至更广泛领域提供了宝贵的国产GPU选型基准、技术验证范式和落地经验,有助于推动国产GPU在关键领域的应用进程与产业发展。

未来,清华经管将继续联合Plaso伯索,围绕更多“AI+教育”业务场景开展兼具务实性与前瞻性的应用探索。同时,我们也诚邀更多AI 领域的优秀厂商携手共建生态,共同推动AI技术在教育领域的创新突破与高质量发展。关于Plaso伯索Plaso伯索(全名“南京伯索网络科技有限公司”)成立于2012年,总部位于六朝古都南京,团队在AIGC、AI智能体、边缘智能、云计算、大数据、富媒体通讯、音视频处理、多模态画布空间、人机实时协作、安全信创等技术方面积累了丰富的产品实践经验。

Plaso伯索融合创新AI Sandbox(AI沙盒)底座应用,陆续推出了【伯索云学堂】、【伯索融课】、【英飞·思想家】等智能化“AI+教育”产品应用体系,已成功服务了来自基础教育、高等教育、培训教育、商业培训、企业协作办公等领域超120,000家客户。近年曾荣获:2023江苏省“专精特新”企业、2024全国行业竞争力5A级单位、2024江苏人工智能应用创新奖、2024教育部智慧教育优秀案例、2025江苏生成式人工智能创新大赛三等奖等殊荣。伯索云学堂:AI智能教育全场景解决方案。产品支持:互动直播、微课录播、在线答疑、题库测评、作业巩固、在线网校、教研备课等,并融合强大的AI能力(AI学习空间、AI智能字幕、AI打点、AI助手、AI答疑、AI作业批改等),助力机构教学效率与服务体验双升级。

伯索融课:AI赋能的一体化数字研训解决方案,提供数字化备课空间、数字化教学空间、数字化教研空间、资源共享系统数据统管系统五大产品体系,围绕“备、教、研、评、学、管”六大场景,专注数字化赋能教育教学,聚焦教师成长、赋能课堂教学、助力教学创新。英飞·思想家:数字画布+AI智能体,人机高效协同空间。以数字画布+AI智能体为底座,集音视频通讯、富媒体文件、多样化批注等功能,积木化、快速搭建贴合业务场景的AI智能体工作流,实现人机高效协同,助力机构高效协作、备课、服务、知识复用、全流程降本增效。

 

标签:

猜你喜欢

环卫工变成智能体?中环云控打造全球首个环卫具身智能体
C-Life数智运动:AI体感游戏运动,潮玩运动体验再突破
嘉楠科技公布2025年7月比特币产量及挖矿业务更新
张予曦空降!揭幕联想moto razr 60冰钻限定版礼盒,七夕送礼新选择
两款地舒单抗注射液通过严苛审查,迈威生物借势哥伦比亚拓展拉美
传神语联携手湖北中医药高地,共启AI中医药发展新纪元
为什么家长都选小天才?小天才电话手表“楼层定位”技术全解读
从环卫驿站到特教机构 京东“城市冰岛计划”百台空调为西安送去清凉
“中国UWB芯片引领者”王俊峰率宇都通讯锚定汽车电子新蓝海
重磅!中国人形机器人产业“百强榜”全景发布
科技赋能边防训练:DPVR E4 企业版引领军事模拟新范式
华为谷云波:构建超低时延算力光网,以光强算,激发商业新增长
专访V蜜幸福创始人张心媛:在偏见与空白中,寻找被忽视的“她需求”
中国长寿科技点亮世博:瑞健未来Rlab走进日本大阪·关西世博会
打造最具影响力Rust赛事第三届vivo蓝河操作系统创新赛正式启动
中山智造扬帆!华为云城市峰会2025暨华为(中山)产业AI促进中心启动仪式即将起航
Soul打造“莫比乌斯”数字文创,重构数字社交表达
新品迭出,高端占比突破29%,鼎阳科技产品升级步入收获期
“聚势同行 智联未来”华为坤灵SOHO渠道招募会·天津站圆满举行
智能荐图+动图照片,鸿蒙版微博这些宝藏功能,让体验飞起!
立秋吃什么?抖音团购红烧肉、肘子量同比增长103%和48%
万物皆互联 细述恒生活“双螺旋”进化那5年
OKKI AiReach上线1个月:平均每个外贸商家多了1325个潜在客户
登录快,扫码更快!美团鸿蒙5专属体验让你轻松快人一步
AI技术引领医疗行业新时代,数智赋能医疗行业千帆技术沙龙圆满举行
从跨设备无缝接续到拖拽问小艺,鸿蒙版酷狗音乐这些功能绝了
登顶Blackhat-云鼎实验室AI代码安全前沿技术分享
亚马逊全球开店来了!全球电商巨头首聚银川,中阿博览会跨境电商展强劲启幕
美的携手SIA科盟启动《健康沐浴科普计划》,用行动呼吁公众对水质健康的关注
积极传递健康养生理念,百位营养师联合推荐九阳不用手洗低嘌呤豆浆机K7Pro