数智时代，万物互联，每天持续产生海量数据，并且数据类型复杂多样，例如图像、视频、卫星影像、地理信息等。如何准确理解数据，挖掘数据隐含价值，是学术界和工业界共同面临的挑战。现今，无人机、机器人、机械狗、遥感卫星、社交媒体等技术已广泛应用于日常监测、灾害救援、应急保障等场景中，大规模数据端侧分析的需求紧迫。
一直以来，传统的边缘计算受资源限制，仅实现了端侧的数据采集、目标识别等感知分析，缺少对复杂场景的理解能力，需要将感知结果回传计算中心，由专用推理服务器进行分析，随之产生大量通信开销，时效性差。目前，算力下沉正在成为智能计算发展新趋势，大模型向边缘端渗透初见端倪，将推理计算任务前移，实现轻量化、低功耗端侧“感－识－算－推”一体化平台，秒级生成决策策略，大幅提升计算效率，将有效推动人工智能赋能新质生产力。
成功研发端侧一体化推理平台
在人工智能技术应用领域，端侧一体化推理平台（华芯智推）主要面向需要实时推理的特定场景，例如当森林火灾发生时，传统方法需要监测设备采集和回传信息，专业人员现场识别并制定策略，依赖专家经验，虽然识别精度高，但时效性低、缺乏推理能力。
电子科技大学认知计算与智能决策团队依托下一代互联网数据处理技术国家地方联合工程实验室，在多项国家级重点项目支持下，长期持续攻关。针对端侧设备计算资源有限、外部信息利用不全面、场景知识关联不准确、推理过程不透明等难题，成功研发出了以知识超图平台为数据基座、以端侧设备为硬件基础，具备场景目标识别、领域知识融合和溯因可解释推理三大核心功能，这也是首个全国产自主的高可靠、高性能、轻量化专用推理平台。该平台体积小、功耗低，可以装载在无人机、无人车或机器狗等终端设备上实现图像实时识别，并进行高效推理。
首先，该平台具备场景目标识别功能。通过重点目标识别、在线知识更新、目标关系构建，可以识别并标注图像中重点目标物体的位置，除了能识别人物、车辆、建筑、山形、地貌等典型目标类别外，还能识别具体场景。如上述空天影像生成场景图中，包括河流流向呈现倒“U”形弯，铁路跨越河流两次，学校位于两座铁路桥梁之间等信息，识别准确率高达98％。
其次，该平台具备领域知识融合功能。通过关联光影、车牌、车标、文字等外部知识库，提升模型的推理能力，使其能够处理更复杂的问题，同时结合外部知识库的实时更新能力，使模型能够跟上最新的信息和趋势，提供高价值知识支撑。同样在上述场景图中，根据地形地貌及铁路信息，可以判断该铁路为川藏铁路拉林段；通过关联外部知识库，可以判断该河流为雅鲁藏布江。
再次，该平台具备溯因可解释推理功能。从结果、过程、依据等多个角度，全面提升复杂语义数据分析的可解释性，帮助用户能够理解和信任平台的决策过程。比如，在结合外部信息的基础上，根据推理规则：
＜铁路桥梁1，跨域，河流＞∩＜铁路桥梁2，跨越，河流＞∩＜阴影，朝向，北方＞⇒
＜河流，流向，东西向＞∩＜铁路，走向，东西向＞
并结合两座铁路桥梁的位置信息及周围的建筑，则可以推理该地为林芝市朗县朗镇。
另外，该平台以知识超图为推理基座。将知识抽象为事理层、概念层、实例层，并在各层中引入超边关系，连接多个实体，有效表征现实世界中多个实体间的关联关系。突破了普通知识图谱功能结构单一、时空关系缺乏、推理速度慢等局限，首次开发图原生数据库存储引擎，集成知识抽取、知识消歧、知识融合、时序分析、知识推理等创新技术，在大规模实体关系推理计算中，将时间复杂度降低一个数量级。
最后，该平台具备轻量化端侧推理能力。端侧设备面临计算能力有限、图像识别和推理实时性要求高、计算功耗受限等难题，该平台结合模型计算节点的必要性和计算精度对计算结果的影响开展模型的剪枝和量化，实现模型自动轻量化，在火灾、地震、救援等应急场景中，能够大幅降低模型的参数量，在保持原有模型识别推理精度下降不超过2％的情况下，把系统计算能耗降低20％以上。
关键技术创新突破 应用前景广阔
据了解，华芯智推创新突破了多项技术，能够更有效地识别目标、关联目标相关知识，有效挖掘和拓展知识价值、进行高可解释的混合推理。
核心的溯因可解释推理能力，能够基于历史事件可解释性、规则可解释性，构建推理规则网络。例如，在火灾救援任务中，实时感知火灾现场信息，基于历史数据快速研判火情态势，加上专家策略，快速计算预测，实现火灾救援的实时响应，快速应对，并且结果可解释。
关键的三层“金字塔”知识超图，具备实体关系自动抽取、知识图谱生成快、存储规模大、计算效率高等特点。通过构建三层图谱架构，结合图数据库存储引擎，引入超边关系，缩小知识推理的搜索空间，以满足多样化的知识表达，提升知识推理效率。
创新的全国产轻量化端侧硬件适配能力，将推理算法集成到国产端侧设备，形成了三款推理硬件，具体参数见下表。能够搭载在XC－25等载重2.5公斤以上的固定翼、混合翼无人机为代表的端侧平台上，完成实时推理运算，并回传结果到中心。此外，还集成了电子科技大学自研的抗干扰自组网通信技术，具备长距离，低延迟，高可靠数据传输能力。
经实验测试和多项实践验证，华芯智推在日常监测、灾害救援、应急保障等多个方面都具备较高的现实应用价值。
比如，在日常监测中，通过无人机、机器人搭载该平台，可应用于智慧城市、智慧农业、电力运维保障等场景，实时监测交通流量、人员动态、农作物病虫害及变电站运行状态，及时生成预警分析，提出解决方案。
又比如，在灾害救援中，实时采集分析无人机和卫星影像数据，可应用于地震、火灾等各种灾后救援工作，精准评估灾害影响和发展趋势，快速生成并回传应对策略，大幅提升救援时效和成功率。
此外，在应急保障中，通过搭载该平台的机器狗进行实时巡查监控，可应用于危化品生产风险监测，及时预警异常振动、原料泄露等潜在风险，紧急生成应对策略，为迅速采取有效应对措施，化解风险，避免灾害发挥重要作用。
同时，还可应用于边境和跨国输油管道监控等多种情况，利用无人机、无人车等设备搭载端侧一体化推理平台，实施全天候监视，及时捕捉并响应任何非法入侵或异常活动，为管控人员第一时间提供应对措施。
总而言之，作为首个全自主可控轻量化高性能端侧推理平台，它实现了一系列技术创新和突破，应用前景十分广阔。未来，该实验室将面向国家重大需求，精进端侧一体化推理的核心技术与平台研发，加快推进在教育、医疗、金融、交通等重要行业领域的应用落地，为人工智能赋能新质生产力和全栈国产化贡献力量。（文／李杰）
