傅盛:企业应该选什么样的大模型?

2024-02-02 16:34:31     来源:

在当今这个充满变革的时代,人工智能正以前所未有的速度推动着各行业的发展。而在这一变革中,大模型扮演着至关重要的角色。但企业在选择大模型时,往往会陷入困惑,是参数越大越好吗?企业应该选择什么样的大模型呢?猎豹移动董事长兼CEO、猎户星空董事长傅盛给出了他的见解。

在猎户星空为企业应用大模型做服务过程中,有客户就询问能不能帮助做私有化部署。比如其中一家是某地方的政务客户,主要是希望通过AI大模型服务老百姓,回答诸如公积金、社保等问题。因为涉及到数据安全,对于使用公有大模型心怀疑虑。

在不少人看来,大模型参数越大,智能效果越好,千亿参数大模型自然比小参数量的大模型更好用。但是,一个千亿参数大模型一年私有化授权费用动辄几千万。如果用它私有化部署以后,光买服务器让他跑起来,最低成本就要160万元。客户们使用大模型,原本的目标就是降本增效。如果,光部署服务器就需要巨大的费用,这显然与初衷背道而驰。

“我们其实就想用大模型做一个客服,一年要投个几千万那划不来。”客户的负责人反馈说,再高深的技术,最后都得算账,有没有又便宜又不损失能的方案。

这也给了傅盛启发,千亿参数可以涌现智能,百亿参数可不可以呢?百亿参数的智能在有一些情况可不可用呢?

2023年2月,LLaMA的出现让instructiontuning(对指令进行调优,以改善技术系统的能和效率)这个方向变得火热。3月,Alpaca又让大家看到从成熟的模型 distill(蒸馏,将大模型的学结果,作为小模型的学目标)小模型成为还不错的 ChatBot 的可能,从而引发LlaMa系(羊驼系)模型寒武纪大爆发,小参数模型的能快速崛起。而在一些评测级上,百亿参数在某一些能力上已经接了GPT,千亿参数不再是唯一选择。

随着开源社区的出现,猎户星空也更加坚定了自己的思路,聚焦百亿参数,强化微调套件,结合自身服务能力,最终发现,用百亿参数的模型,加上客户的私有数据,再加应用的打磨,在专业领域问题的问答上,就可以达到甚至大于千亿参数大模型的结果。

傅盛认为,企业在选择大模型时,首先要考虑的是大模型的实用。不能仅仅看其参数大小,更要关注其在实际应用中的效果。因为,只有真正能够解决企业实际问题的模型,才是有价值的模型。

标签:

猜你喜欢

抖音生活服务报告:春节前“变美”经济火爆,休闲娱乐订单增长259%
抖音反诈提醒:所谓“抖音客服”让你转账,千万别信
释放AI算力无限可能,英特尔协同合作伙伴加速行业智能化升级!
WiFi万能钥匙矩阵连接助力年末商圈消费“开门红”
“花小楼”担任湖南长沙戏剧街形象推广大使,迷你世界持续助力传统文化传播
倍愈粒HEALBOOM:唤醒人体内在生命力,重塑青春活力新篇章
内外协同,焕活细胞:赛派诺Sulpyrro破译人体青春密码
口服健康,鲜活人生:跨世纪健康品牌Yisday,30年坚持只为自然守护
博睿数据算力调度可观测平台荣获信通院“算力服务领航者计划”优秀案例
逆势而上,积极探索,宁梵声学有线游戏耳机为电竞体验注入新活力
麒麟软件再获企业信用最高级评价
大数据智能化创新应用精准赋能 淄博打造交通管理数字化转型新范本
麻枝准催泪新作《炽焰天穹》简中服首曝 预约正式开启!
板川集成灶春节不打烊!宫系列龙年首发,五大好礼恭祝龙年行大运
A级供应商!中关村科金连续五年获得五矿信托表彰
“AI 改简历”获备案审批,智联招聘将全场景应用“大模型”?
YISDAY掌握前沿抗衰科技,助力逆龄每一DAY!
考试星发布考试测评领域首个垂直大模型
半导体存储芯片市场广阔,longsys江波龙加速产业布局进军存储封测业务
辞旧迎新读好书,抖音电商年货节助力图书销量上涨
多重利好加持 二手车消费有望引领“消费促进年”
从封闭到开放,普渡科技带领服务机器人行业先行一步
品质认可!追觅V12S吸尘器获珠海消委会五星评价
光峰专显亮相ISE 2024欧洲视听大展,投影新品S Pro首曝光
小红书X沃尔沃EM90:打造高品质「移动的生活空间」
时光珠高压氧舱:1.9ATA行业翘楚,为健康续航加冕的长寿科技
傅盛:脱离市场的技术投入就是浪费资源
揽获多个年度奖项 三星Galaxy Z Flip5以创新重塑折叠体验
爱普生工业机器人40周年 持续助力制造业转型升级
忙了一年别卷了 快乐摸鱼修仙手游《最强祖师》今日全平台公测