7月6日,中软国际解放号正式发布解放号JointPilot(灵析)人工智能应用平台,面向政企客户提供模型引入与落地部署、应用生成、应用运行和管理、行业应用支持、领域知识治理、安全合规和开发者生态运营等服务能力,旨在为客户提供全方位的人工智能解决方案。中软国际副总裁、AIGC研究院院长、解放号总裁万如意博士在会上演示了基于JointPilot平台开发的城市治理、数字见证、销售、招聘、文档处理等多个场景智能化应用的成果,充分展示了中软国际“大模型生态位发展战略”的核心竞争优势。
中软国际解放号坚守初心、与时俱进,实施“大模型生态位发展战略”
去年OpenAI发布ChatGPT,以及从3月以来,国内各家大模型厂商也陆续发布了各自的大模型,大家都已经体验过通用大模型,对意图理解和各类场景的对话体验有了不同程度的感受。在最近一个月以来的各类发布会,也陆续有不少经过精调后的行业大模型出现。然而,为大模型本身有缺陷,例如,不可解释&不一致性、不掌握本地/实时数据、推理局限在常识范围、本地部署成本高等,这些将成为大模型在千行百业落地的重要制约因素。所以,在大模型发展的同时,也留出很多空白需要更多的服务商去填补,这就是大模型生态位。根据生态位和大模型形成能力互补的沟通管道的不同类型,大致可以分为Prompt生态位、Fine-tuning生态位以及Plugin生态位三种。大模型真正在千行百业落地,一定是由生态位的繁荣来形成的,一定是需要生态位应用能力的繁荣来补足,AIGC应用生态位的能力补充对于大模型在行业落地来说非常重要。
中软国际为了全面拥抱AIGC变革,以解放号为基础成立了AIGC研究院,并实施“大模型生态位发展战略”。今年以来,我们围绕大模型落地所需要的生态位能力补充,探索和积累了各种类型行业场景应用所需的能力模块,并将这些能力模块封装成可以被大模型调用的一个个微应用,也就是Gartner所说的PBC,Packaged Business Capability。面向千行百业的应用需求,站在生态位补足大模型能力,这是中软国际对解锁大模型落地千行百业最后一公里的准备。
JointPilot Library:拥有丰富的微应用资源与强大的平台环境
PBC化,不仅仅是对大模型本身缺陷补足的能力模块,而且也是天然地为大模型带来(LUI)新交互而生的一种应用调用方式。AI原生应用将在后台灵活组装组件的能力来交付结果,在前台自适应创建大量一次性的、面向某个特定用户、某项特定任务的 GUI方便用户使用。后台是一堆能力组件构成的乐高积木块,可以自由拼装,而且可以去网络上选择合适的第三方模块拼装进来;前台也是一堆 GUI 的乐高积木块,根据用户偏好和需求自由拼装,组装成最能够帮助用户达成目的的形态。通过PBC的微应用,我们可以实现业务能力的快速组合和定制化,促进应用的快速开发和集成,使得开发者可以更加高效地构建出丰富、灵活和可定制的应用。
当前在JointPilot Library已经有上百个PBC,既有信息收集、文档识读、营销文案生成类的微应用,也有在城市治理、智慧采购、数字港口等行业解决方案的应用开发中,我们和行业伙伴共同解构并积累了大量PBC。这些PBC里,有的是Plugin,有的是Prompt+Plugin,有的是Fine-tuning,总之,JointPilot提供的PBC Library是大模型落地的生态位能力补充,可以兼容多种生态位的形态及其组合。可以说,自从大模型诞生的第一天开始,中软国际解放号就把目标指向了生态位的繁荣和对大模型能力补充的定位。未来5年,所有企业都是AI企业。而在这里,总有些PBC是企业AI应用构建中需要的。
繁荣的PBC基础是大模型包括小模型推动的AI2.0时代最需要的平台环境。JointPilot人工智能微应用生成平台,提供微应用快速生成工具,将微应用开发的共性能力和Prompt最佳实践融入其中,同时接入客户数据和资产,构建前后约束图谱和领域知识库。所生成的微应用会做为PBC沉淀到JointPilot微应用市场中去。
为了进一步降低应用开发的门槛,JointPilot也可以通过自然语言的方式直接生成微应用。随着开发周期的大幅缩短,开发门槛的大幅降低,应用的创意和数量将会被极大地激发,PBC的数量将会指数级的增长。技术进步给应用快速生成带来极大的想象空间,意味着普通人无需掌握编程工具即可实现自主开发的时代来临。JointPilot就是为了人人都是开发者的时代而诞生的。
此外,PBC的组合在各行各业的传统解决方案AI化升级改造中也将发挥重要推动作用。我们与有着丰富经验的合作伙伴共同探索行业需求,在交通、教育、医疗、政务等行业开展AIGC新场景的联创解决方案,并将新能力和解放号平台服务提供给各个行业的客户。
共性能力服务:帮助政企客户提升IT资产复用水平,提供PBC化服务
我们需要直面中国政企行业应用现状。大量政企客户的应用并没有被PBC化,甚至很多IT投资仍旧在重复建设,或者在推倒重来的过程中浪费了IT投资。不是所有的PBC都会被复用,但IT建设需求的旺盛和IT投资预算的紧缩这之间的巨大差距,导致IT资产强调复用的压力倍增,这将极大地推动新旧应用的PBC化。所以,尽管今天我们在这里探讨的是面向未来的新趋势,但面向过去,特别是IT资产来说,我们应当尽可能去利旧。基于PBC化的共性能力梳理就是我们提供的一款配套服务。不仅是顺应了广大政企客户对IT共性能力建设的时代性需求,更是一种面向过去IT资产利旧的PBC化服务。
大数据局,作为我国政府高质量数据的汇聚中枢,IT项目规划建设的统筹单位,历年IT投资是否沉淀为可复用的共性能力模块,是否实现了烟囱式系统和孤岛式的系统的减少,特别是在财政资金节约、集约的压力下,现在这方面的需求尤为急迫。解放号已经服务各地40多个大数据局,我们在帮客户做技术审查、立项审查等服务,让项目在立项的时候减少重复立项,这是因为甲方的资金在IT上投入越来越精细化,不希望出现重复建设,所以委托我们来做技术审查,帮客户梳理已经投资建设的IT资产,如何把建设过的IT资产的能力归集起来,共性数据资源、共性应用模块、共性算法模型。哪些能力是共性的,哪些能力是可以复用的。因此,我们的配套服务包括:帮客户建设共性能力管理体系、基于共性能力识别/复用对新建IT项目的技术评审、共性能力使用效果评价、以及共性能力管理平台,从而减少重复建设和投资浪费。
更深层的重要意义在于,在服务过程中逐渐形成的共性能力的模块化表达,不仅仅是实现了IT投资在财务上节约了应用开发的投入成本,而且还实现了构建一套面向未来AI友好型的应用落地环境。共性能力建设是最重要、最有效、最适合中国国情的关键路径。在中国很多正处于数字化转型的机构中,历经多轮IT建设,需要一种不再是传统中台的,轻量化的,而且能够针对IT资产利旧的,共性能力抽取、管理、复用的工具,同时还能面向未来AI应用构建提供支撑和过渡,这就是我们要帮助客户解决的问题。
JointPilot已经实现丰富的能力接入,聚力打造AI友好型的平台
为了支撑好微应用构建所需要的能力模块和资源集合,JointPilot在能力开放平台上还会不断拓展和强化各种能力,包括模型能力、模态能力、数据服务以及数据资源能力,打造AI友好型的平台环境。
在模型能力方面,我们已经积累并接入不同的模型(包括大模型和小模型)能力。其中,针对核心的大模型,中软国际已经和国内主流大模型厂商形成了紧密的伙伴关系,包括国内主流的开源模型已经在JointPilot上实现了能力接入。进一步,我们还将在模型工厂里通过自动化的训练流程,高效快速地形成定制化大模型,以支撑客户对定制大模型的需求。
在多模态能力方面,文档、音频、视频、地图,这些都是构建AI应用所需的各种模态能力资源,模态能力接入越多元,那么能够支撑AI应用开发的种类就越丰富。解放号与中国最大、全球第二的PDF厂商——福昕进行合作,并将其文档能力整合到机器人助理中,可以执行各种文档相关的任务,如打开、编辑和导出PDF文件,提取文本和图像,进行文档搜索等,为用户提供了更方便和高效的文档处理功能。解放号自研不良言论识别助手,被应用在招投标中的数字见证场景,通过JointPilot的多模态能力应用,对语音进行识别分析。为客户提供了更高效和准确的评审和见证机制,系统能够更全面地理解和分析评审过程,提供有价值的信息和判断。
在数据能力方面,我们知道AI类应用对数据质量要求较高。而且,越来越多的AI应用构建是需要内外部数据资源融合起来使用的,为了给AI应用构建提供更广泛的数据支撑,我们也把开放数据集纳入JointPilot平台能力开放给应用开发者,并接入了近30种常用数据集,包括信用、资质、气象、人口、楼宇、企业动态等,为PBC提供丰富的数据素材,支撑更多的数据创意,形成更大的创造空间。未来我们还将接入更多互联网公开数据源,特别是政府和交易所的开放数据,让数据资产在JointPilot上充分汇聚。
对于企业内部数据来说,我们也会给客户提供数据治理和知识工程的配套的数据服务,使得企业内部数据资源可以被用于AI应用。中软国际已经有了一些积累,为了让客户可以运用大模型解决业务问题,我们为客户提供知识采集、加工、融合、校验等数据治理服务。特别地,对于大模型应用的落地来说,尤其是在企业级的应用里边,为提高大模型的可解释性,还需要通过知识工程来实现对大模型应用进行约束,JointPilot强化大模型基于DKG的约束。当用户发起一个需求chat的时候,需要先经过领域知识图谱识别后,再去调相关的应用,这个环节在未来是大模型落地的刚需环节。
中软国际解放号现有的DKG能力包括采购、商品、城市治理、知识产权等领域,有些DKG的节点达到了5亿多个。例如,采购管理场景中,选品比价就需要利用商品领域知识图谱来约束对用户需求理解的前约束,以及应用结果反馈的后约束。在采购管理的Pilot方案中就会用到这个DKG能力。
未来AI对千行百业的改变,将是通过与产业的融合实现的,推动产业实现更高的效率、更低的成本、更好的体验和更卓越的创新。中软国际解放号聚智能之力,打造AIGC应用新引擎。JointPilot致力于打造一个完整的生态系统,整合大小模型能力、多模态能力、数据资源能力、数据治理和知识工程能力,为客户提供AI应用构建所需要的全栈能力,降低应用开发门槛,实现人人都是开发者,让各行各业的解决方案都实现AI化升级改造。
面向未来,中软国际也愿意持续贡献自己的能力,以开放的心态和创新力,和客户以及合作伙伴共同拥抱智能时代,建设数字中国。