创新端侧推理平台 赋能新质生产力——电子科技大学成功研制首个全自主可控轻量化高性能端侧推理平台

2024-06-28 14:55:19     来源:

数智时代,万物互联,每天持续产生海量数据,并且数据类型复杂多样,例如图像、视频、卫星影像、地理信息等。如何准确理解数据,挖掘数据隐含价值,是学术界和工业界共同面临的挑战。现今,无人机、机器人、机械狗、遥感卫星、社交媒体等技术已广泛应用于日常监测、灾害救援、应急保障等场景中,大规模数据端侧分析的需求紧迫。

一直以来,传统的边缘计算受资源限制,仅实现了端侧的数据采集、目标识别等感知分析,缺少对复杂场景的理解能力,需要将感知结果回传计算中心,由专用推理服务器进行分析,随之产生大量通信开销,时效性差。目前,算力下沉正在成为智能计算发展新趋势,大模型向边缘端渗透初见端倪,将推理计算任务前移,实现轻量化、低功耗端侧“感-识-算-推”一体化平台,秒级生成决策策略,大幅提升计算效率,将有效推动人工智能赋能新质生产力。

成功研发端侧一体化推理平台

在人工智能技术应用领域,端侧一体化推理平台(华芯智推)主要面向需要实时推理的特定场景,例如当森林火灾发生时,传统方法需要监测设备采集和回传信息,专业人员现场识别并制定策略,依赖专家经验,虽然识别精度高,但时效性低、缺乏推理能力。

电子科技大学认知计算与智能决策团队依托下一代互联网数据处理技术国家地方联合工程实验室,在多项国家级重点项目支持下,长期持续攻关。针对端侧设备计算资源有限、外部信息利用不全面、场景知识关联不准确、推理过程不透明等难题,成功研发出了以知识超图平台为数据基座、以端侧设备为硬件基础,具备场景目标识别、领域知识融合和溯因可解释推理三大核心功能,这也是首个全国产自主的高可靠、高性能、轻量化专用推理平台。该平台体积小、功耗低,可以装载在无人机、无人车或机器狗等终端设备上实现图像实时识别,并进行高效推理。

首先,该平台具备场景目标识别功能。通过重点目标识别、在线知识更新、目标关系构建,可以识别并标注图像中重点目标物体的位置,除了能识别人物、车辆、建筑、山形、地貌等典型目标类别外,还能识别具体场景。如上述空天影像生成场景图中,包括河流流向呈现倒“U”形弯,铁路跨越河流两次,学校位于两座铁路桥梁之间等信息,识别准确率高达98%。

其次,该平台具备领域知识融合功能。通过关联光影、车牌、车标、文字等外部知识库,提升模型的推理能力,使其能够处理更复杂的问题,同时结合外部知识库的实时更新能力,使模型能够跟上最新的信息和趋势,提供高价值知识支撑。同样在上述场景图中,根据地形地貌及铁路信息,可以判断该铁路为川藏铁路拉林段;通过关联外部知识库,可以判断该河流为雅鲁藏布江。

再次,该平台具备溯因可解释推理功能。从结果、过程、依据等多个角度,全面提升复杂语义数据分析的可解释性,帮助用户能够理解和信任平台的决策过程。比如,在结合外部信息的基础上,根据推理规则:

<铁路桥梁1,跨域,河流>∩<铁路桥梁2,跨越,河流>∩<阴影,朝向,北方>⇒

<河流,流向,东西向>∩<铁路,走向,东西向>

并结合两座铁路桥梁的位置信息及周围的建筑,则可以推理该地为林芝市朗县朗镇。

另外,该平台以知识超图为推理基座。将知识抽象为事理层、概念层、实例层,并在各层中引入超边关系,连接多个实体,有效表征现实世界中多个实体间的关联关系。突破了普通知识图谱功能结构单一、时空关系缺乏、推理速度慢等局限,首次开发图原生数据库存储引擎,集成知识抽取、知识消歧、知识融合、时序分析、知识推理等创新技术,在大规模实体关系推理计算中,将时间复杂度降低一个数量级。

最后,该平台具备轻量化端侧推理能力。端侧设备面临计算能力有限、图像识别和推理实时性要求高、计算功耗受限等难题,该平台结合模型计算节点的必要性和计算精度对计算结果的影响开展模型的剪枝和量化,实现模型自动轻量化,在火灾、地震、救援等应急场景中,能够大幅降低模型的参数量,在保持原有模型识别推理精度下降不超过2%的情况下,把系统计算能耗降低20%以上。

关键技术创新突破 应用前景广阔

据了解,华芯智推创新突破了多项技术,能够更有效地识别目标、关联目标相关知识,有效挖掘和拓展知识价值、进行高可解释的混合推理。

核心的溯因可解释推理能力,能够基于历史事件可解释性、规则可解释性,构建推理规则网络。例如,在火灾救援任务中,实时感知火灾现场信息,基于历史数据快速研判火情态势,加上专家策略,快速计算预测,实现火灾救援的实时响应,快速应对,并且结果可解释。

关键的三层“金字塔”知识超图,具备实体关系自动抽取、知识图谱生成快、存储规模大、计算效率高等特点。通过构建三层图谱架构,结合图数据库存储引擎,引入超边关系,缩小知识推理的搜索空间,以满足多样化的知识表达,提升知识推理效率。

创新的全国产轻量化端侧硬件适配能力,将推理算法集成到国产端侧设备,形成了三款推理硬件,具体参数见下表。能够搭载在XC-25等载重2.5公斤以上的固定翼、混合翼无人机为代表的端侧平台上,完成实时推理运算,并回传结果到中心。此外,还集成了电子科技大学自研的抗干扰自组网通信技术,具备长距离,低延迟,高可靠数据传输能力。

经实验测试和多项实践验证,华芯智推在日常监测、灾害救援、应急保障等多个方面都具备较高的现实应用价值。

比如,在日常监测中,通过无人机、机器人搭载该平台,可应用于智慧城市、智慧农业、电力运维保障等场景,实时监测交通流量、人员动态、农作物病虫害及变电站运行状态,及时生成预警分析,提出解决方案。

又比如,在灾害救援中,实时采集分析无人机和卫星影像数据,可应用于地震、火灾等各种灾后救援工作,精准评估灾害影响和发展趋势,快速生成并回传应对策略,大幅提升救援时效和成功率。

此外,在应急保障中,通过搭载该平台的机器狗进行实时巡查监控,可应用于危化品生产风险监测,及时预警异常振动、原料泄露等潜在风险,紧急生成应对策略,为迅速采取有效应对措施,化解风险,避免灾害发挥重要作用。

同时,还可应用于边境和跨国输油管道监控等多种情况,利用无人机、无人车等设备搭载端侧一体化推理平台,实施全天候监视,及时捕捉并响应任何非法入侵或异常活动,为管控人员第一时间提供应对措施。

总而言之,作为首个全自主可控轻量化高性能端侧推理平台,它实现了一系列技术创新和突破,应用前景十分广阔。未来,该实验室将面向国家重大需求,精进端侧一体化推理的核心技术与平台研发,加快推进在教育、医疗、金融、交通等重要行业领域的应用落地,为人工智能赋能新质生产力和全栈国产化贡献力量。(文/李杰)

 

标签:

猜你喜欢

华为发布5G-A产业技术演进方向,促5G-A产业共赢
携手祥源旅行共创宝藏旅行线路,小红书「红薯旅行社」激发“种草”文旅新玩法
让客厅瞬间成为山峦之巅,QQ音乐现已支持Apple Vision Pro打造沉浸式音乐体验
运动耳机怎么选?世界冠军孙瑜推荐的Cleer ARC 3 音弧运动版了解一下!
聚焦制造业:钉钉联手创新奇智,以AI驱动行业高质量发展
OpenAI“断供”中国 百度阿里讯飞万兴科技等开启全新应用战场
东升镇“数字网格员”引关注,RPA+AI技术最佳实践引领多行业智能升级
全国一张网的通行费发票电子化高峰研讨会在北京成功举行
嘉实多携手英特尔 Open IP 液体冷却技术团队 共同研发尖端液冷技术解决方案
从“流量经营”到“体验经营”,5G体验变现加速正当时
小刀电动车:品质铸就口碑,引领行业新风尚
Valens VS6320芯片组得到多家行业领先制造商采用
钉钉汇聚730+新锐服务商,携手共筑“AI+”新生态
售后宝CEO李明:SaaS场景+钉钉AI能力,穿越周期迎增长
洋恺时尚牵手店+,用AI赋能鞋服企业数字化转型
华为陈帮华:以网强智,以智赋网,共促固网产业持续繁荣
影像点亮星空之美 国内首个“佳能星空影像创作基地”成立,守护大丰野鹿荡星空
“星云”首秀!长亮科技助力南京银行引领数据生产力飞跃
见证非遗传承,精品短剧《锦衣巷》首发红果短剧平台
在日本,探寻二奢市场的下一张“增长地图”
国服《帝国神话》是兄弟就一起:吃饭!睡觉!打群架!
四个“一体化”——构建数智融合时代下的一站式大数据平台
2024 MWC上海,罗德与施瓦茨联合联发科技共同演示Sub-6GHz下行三载波聚合测试
2024 MWC上海,罗德与施瓦茨联合紫光展锐率先演示NR NTN设备测试
打造创新高地 勇立数字潮头 北京电信以智算“新”力为首都数字化高质量发展筑基
GAITC 2024:昇腾AI基础软件CANN与MindSpore精彩亮相
第七届“智新杯”全国人工智能机器人创新大赛(四川赛区发布会)暨四川省人工智能创新应用论坛隆重召开
润建股份精彩亮相2024MWC 上海,AI引领数智未来!
中国移动成功举办终端合作峰会
和缓视频医生发布Vision Pro版,“小蓝”开创空间AI健康体验