芮勇:联想混合人工智能框架有四个重要维度

2024-04-18 15:25:57     来源:

4月18日,第十届联想创新科技大会Tech World在上海举行。联想集团高级副总裁、首席技术官芮勇博士表示,不能再单纯地用大数据+大算力+大网络来堆砌大模型,而是要超越大模型,探索更接近人类的思维和行为方式。

2022年11月底,ChatGPT横空出世,掀起了大模型的热潮。从百亿参数,到千亿参数,再到万亿参数,大模型能力越来越强大;从语言模型,到视频模型,再到最近的音乐模型,大模型的表现越来越出色;AI历史上,无论是统治语音识别30年的隐马尔可夫模型,还是称霸整个90年代的支持向量机,从来没有任何一个技术,能够像今天的大模型这样强大。大模型是AI历史上的重要里程碑,它开启了人工智能发展的新纪元。芮勇博士称,但是它的理解和规划能力还很有不少局限性,这些局限性需要解决。

今天的大模型没有真正地理解语言和理解世界,也没有推理和规划能力。它只是根据高维语义空间的联合概率分布,来连接它之前见过的海量信息片段。

大模型一方面能力很强,另一方面有局限性。所以要'扬长补短',扬长:我们要持续发扬并增强大模型的强大能力。长短:我们要打造基于大模型的智能体技术,真正解决应用场景的问题。联想的理念是,左手是大模型,右手是智能体,两手都要抓,两手都要硬。

联想倡导混合人工智能框架,是公有大模型和私有大模型的混合。从技术角度看,还有几个重要维度的混合。

首先,小模型不会消失。今后一定是基于大模型和小模型混合的“意图理解”技术。大家知道信息论里面的熵 entropy 是度量信息量的。越有序,熵越小,越无序,熵越大。联想使用交叉熵 cross entropy 损失最小化原则,将意图理解任务最优地分配给大模型和小模型,从而兼顾精准度和复杂性。

第二,基于CPU、GPU、NPU混合调度的“异构计算”技术。今天,在大模型的训练和推理过程中,瓶颈往往不在于芯片算力,而在于数据传输。这个方程式是说,我们来同时优化计算负载和数据传输,使总体执行时间最短。

第三,基于模型微调 (SFT) 与检索增强 (RAG) 混合的“智能问答”技术。相信很多人都听过RAG和模型微调。这两种技术哪个更好呢?其实,这两种技术各有长短。

第四,基于硬件加密与全栈可信架构的混合“隐私安全”技术。光用硬件是不够的,光用软件也是不够的。我们知道,在前量子时代,我们是通过把一个非常大的整数进行质数分解进行加密。但是在后量子时代,这就不够了。这个方程式通俗地讲,就是通过在一个高维实数空间里进行因式分解来进行加密。

可以看到,这里讲到的4 种混合式技术,需要端边云的协同,需要软件硬件的协同,需要传输与计算的协同。联想的新IT架构 “端边云网智”为混合式技术的实现提供了强大支持。

 

标签:

猜你喜欢

DeepWay深向智能驾驶重卡首次亮相百度Creat AI开发者大会
传奇桌面游戏联手宝可梦!艾赐魔袋中国宣布推出宝可梦版璀璨宝石
CeMeta森宇宙旗下产品入选“2024年最值得期待的AIGC产品”
光峰专显携全系教育投影方案亮相第61届中国高等教育博览会
“兄弟买演唱会门票吗?”抖音提醒勿轻信非官方购物渠道
2023全球销量第一!Cleer ARC音弧系列凭实力‘杀疯了’!
新华三张鹏:以“用”为本,迈出AIGC走向行业的关键一步
开放式耳机没好货?FIIL GS用实力说不
中国电信开源12B星辰大模型,携手昇腾推进大模型全栈国产化进程
品质宽带体验管理,助力山东联通开启体验经营新时代
华为陆海鸥:合作共赢,加速迈向高阶自智网络
刘强东“分身”直播首秀带火AI数字人直播 万兴科技百度等厂商受关注
莱复隆STEMAX:赛乐瑞Cellerator殿堂新作,靶向人体干细胞抗衰
云化能力全面赋能,深信服AF安全效果新突破!
华为云通过打造创新的AI-Native基础设施,加速AI的创新实践
「码」力十足,大族协作机器人更适合码垛应用
从政府采购网“优秀供应商”奖,洞见宏碁商用的实力布局
vivo携手FIRST青年电影展开启2024年vivo × FIRST超短片竞赛征片
杨元庆:真AI PC必备五大特征,PC迎来真正个人时代
星环科技与英特尔携手举办“AI PC激发知识的力量”研讨会,共探智能PC新未来
2024抖音电商第一季度阅读报告:商城带动出版社销量同比增长209%
夸父炸串APP注册会员超110万名,数字化成效明显
真我realme徐起:中国市场我们就是要做质价比之王
思尔芯助力加速WiFi 7射频IP验证系统发布
华为云AI大模型产业应用创变营,加速培育东莞企业新质生产力
旗舰7940HX与RTX4060独显高能加持 华硕天选5 Pro百亿补贴价7998元
守护成长每一步,《蛋仔派对》护航未成年人网络安全
震撼首发!旭显未来推出全球首款真Micro LED 4K大屏
MongoDB扩大与谷歌云的合作,助推各行业客户部署和扩展新型应用
广州全面拥抱原生鸿蒙生态,多领域企业级应用率先启动开发