顺网灵悉引擎:轻松构建AI陪伴应用,高效呢能行业创新

2024-01-23 10:56:12     来源:

从大模型到应用的距离到底有多远?

日前召开的“跃迁·向未来”顺网科技战略升级及产品升级发布会给出了答案,大模型落地到应用并不是在跑“最后一公里”,它们之间还有很长一段路要走,而智能体引擎将进一步缩减大模型到应用之间的距离。就此,顺网科技CEO樊星博士从实践层面提出了大模型应用落地的挑战。顺网科技结合实际项目经验,提出了“AI应用的五层范式”,旨在解决AI应用落地的难题。而顺网创新研发的灵悉引擎,将在智能体层发挥连接算力、大模型与应用的关键作用,帮助从业者降低AI的准入门槛,促进高质量AI陪伴应用的构建。

AI应用五层范式——从大模型到应用,需要智能体引擎

在落地层面,顺网科技探索出一条新的道路,即涵盖“算力层、基座模型层、模型池层、智能体层、应用层”的“AI应用五层范式”。其中,算力层提供了强大的计算基础,支撑着模型的训练和运行;基于此,基座模型层利用这些算力构建出可适用于多种任务的通用深度学习模型。紧接着,模型池层作为一个资源库,存储了各种经过特定训练或微调的模型,以备不同的应用场景调用。在此基础上,智能体层发挥着至关重要的作用,它不仅整合了底层的算力和模型资源,还根据应用层的具体需求,智能地选择和调度这些资源,确保问题解决的高效性。最终,应用层将这一切转化为面向用户的具体产品和服务。

在顺网科技AI应用五层范式中,智能体引擎不仅是技术到应用的转化器,更是连接整个体系高效运作的关键。通过智能体引擎的有效运用,大模型的强大能力得以在各种实际应用场景中得到充分发挥,最终实现了大模型到应用的顺利转化。

灵悉引擎——用好算力与模型,轻松打造高质量的AI陪伴应用

基于五层范式,顺网科技研发了自己的智能体引擎——灵悉引擎(SPICE AGENT ENGINE)。灵悉引擎具备四个核心系统:智识中枢、感知与反馈、执行体系和陪伴设定。智识中枢致力于提供更强的决策规划能力和更低的使用门槛;感知与反馈板块关注于智能体的环境感知和用户交互,增强形象和声音等多模态交互的体验;执行体系通过任务补全、链接和执行来实现复杂功能;陪伴设定则提供了个性化和快速生成的能力,允许用户根据自己的需要创建定制化的智能体,实现个性化陪伴。灵悉引擎通过这些组成部分,实现了在从大模型到应用的过程中有效地连接算力、模型与应用,帮助从业者用好算力与模型,轻松打造高质量的AI陪伴应用。

其中,智识中枢与陪伴设定是灵悉引擎的两大特色模块。

一方面,通过智识中枢,参数更小的模型(小于10B)能实现与大模型(175B)相当的任务规划和决策能力。这一点在AI领域具有重大意义。普通的大模型虽然功能强大,但常常伴随着高昂的计算成本和算力要求。相反,智识中枢通过精心优化模型结构和算法,达到了在较低资源消耗下实现高效决策和任务规划的目标,从而大幅降低了成本和准入门槛;

另一方面,陪伴设定模块则提供了更大的灵活性和个性化选项。这个模块允许用户根据自己的需求定制智能体,不仅可以依据极少信息快速生成智能体,还可以进行深入的个性化定制,满足更复杂的需求。例如,智能体可基于角色、行为、知识、属性和能力进行多维度定制,实现千人千面的个性化定制效果。

艾卡帕尼评估体系——评估智能体陪伴能力

基于在AI陪伴领域深入的探索,顺网科技总结了一套评估智能体陪伴能力的评估方法——AI Companion Benchmark即艾卡帕尼评估体系。其具备对话能力、角色一致性、角色扮演吸引力、决策能力四大类共17大评估维度。通过这些综合性的评估维度,艾卡帕尼评估体系能够全面地衡量智能体的综合陪伴能力,为AI陪伴应用的开发和优化提供了一套标准化的评价框架,从而进一步推动AI陪伴技术发展、提高AI陪伴应用质量。

通过艾卡帕尼评估体系的评估,我们观察到灵悉引擎开发的智能体在陪伴能力方面已经达到与直接使用大模型封装的智能体相当的水平。采用大模型的智能体意味着承担更高的运营成本,而通过灵悉引擎构建智能体应用,则将显著改善成本结构,降低AI应用开发准入门槛。

在当前的发展周期内,想要充分、海量地提供AI应用服务,灵悉引擎将充当重要角色。它不仅在工程层面上实现了与大模型相似的陪伴能力,更在实操层面上为更为广泛的智能体应用提供了可行性,这在未来AI应用的大规模普及和发展中将发挥巨大的作用。

如果说2023年标志着“大模型”时代的到来,那么2024年或将成为“AI应用”爆发的开始。在这个新的阶段,模型的价值将不仅仅体现在其技术先进性上,更在于它们如何被有效地应用于解决实际问题和创造价值。随着模型层的快速发展和成熟,未来的AI产业趋势将越来越多地由应用层驱动。这意味着,将高端模型技术转化为具体、实用的应用将成为推动行业发展的关键。在这个过程中,像灵悉引擎这样能够连接模型与应用、同时优化成本效益的解决方案将发挥至关重要的作用,引领AI技术从“模型时代”向“应用时代”转变!

标签:

猜你喜欢

假期福利来袭 RTX 4060游戏本ROG魔霸7Plus入手价仅10499元!
Hi-design大咖说 | 日比野拓
爱采购AI智采集圆满落幕,与生态伙伴为中小企业共谋智造新篇章
QQ音乐推出业内首创专辑动态封面功能 沉浸式听歌新体验
AI重塑学习 知学云携手天翼云助力企业增效降本
倍立因NBL科学专研,“若返”助力重拾男性源力
时光珠高压氧舱友情提示:冬季出行注意保暖,科学“氧”护是关键
中国移动《助力国家“东数西算”战略,400G超长距全光骨干传输网大动脉技术创新》项目获“光华杯”总决赛一等奖
中国存储龙头企业江波龙步伐不停,与元成苏州强势联合巩固存储封测地位
共建电竞酒店产业生态 TCL华星亮相首届电竞酒店行业年会
RUILON荣获“广东知名品牌”,实力见证瑞隆源品牌价值
你敢信?他就买了一个会员权益福包,就中了华为Mate 60手机!
树立智慧文旅样板,紫光云助力连云港打造历史文化名城
科西创新FE“水光弹”吹风机,开启吹护养合一新纪元~
明纬推出全球认证插墙式可换AC插头适配器NGE系列,满足客户多元化需求
御维利守护男性健康,焕活底层青春态
近半年智汇云舟新增9项发明专利授权
Tita全新360评估解决方案,引领人才管理新篇章
金奖花落谁家?Rokid AR生态大会暨第二届AR应用开发大赛决赛圆满落幕
智采万物,打造建筑地产数智引擎——端点科技助力中建智采B2B商城建设
东方财富与华为签署全面合作协议,完成鸿蒙原生应用Beta版本开发
获金瑞营销奖年度最佳技术营销案例奖,Mintegral 流量与算法实力再获认可
Bioagen御维利刺激男性市场,助力恢复男性雄风
“可乐杀精”真的吗?Bioagen御维利科学养护,重振男性风采
中整协会上如凤凰创始人覃兴炯表示:美链融合赋能行业高质量发展
数字化营销海外企业在中国新征程
“小绿泵”倍他强三重维度焕发男性力,告别“男”言之隐
荣获7项权威大奖!斑马思维机收获“专业与口碑”双丰收
魅族 21斩获2023鲁大师牛角尖“年度AI性能最强手机”以及“年度最佳屏幕手机”双料大奖,精致体验,受人追捧
在技术研发上寻求新路径、新突破,着力解决公司发展棘手难题 ——专访陶瓷领域技术巨擘莫浩文