大模型场景业务落地,UCloud优刻得上线企业内部问答平台

2023-06-28 17:42:02     来源:

无可否认,大模型是最一段时间最热的话题之一,在市场上正经历着快速发展和广泛应用的阶段。各个云计算厂商和科技公司纷纷推出自己的大模型产品和解决方案。

日,UCloud优刻得基于企业内部的产品知识文库、技术支持文档,借助大语言模型的强大逻辑推理能力,构建了企业内部知识问答台“识问”。

产品介绍

UCloud优刻得内部问答台“识问”,是公司AIGC项目团队基于大语言模型的一次落地实践。目前“识问”台已经集成了UHost、URTC、备案、常用技术支持和安全等知识文档,能满足技术支持团队日常提问检索的需求。用户仅需要输入问题,识问台即可在几秒内输出完整的问答话术。

实现方式

识问台目前是通过大语言模型连接本地知识库的方式来实现专业知识问答的。在业务侧上传UHost、URTC、备案和安全相关的文档,文档数据经过非结构化存储,文档切分,生成文本块之后再进行向量化处理,通过LangChain框架,实现本地文本知识库的构建。

客户通过Web端或者其他AI应用提交问题,提交的问题经过向量化处理后,在文本向量化中匹配出与问句向量最相似的top k个,匹配出的文本作为上下文和问题一起,添加到prompt中,提交给大语言模型,利用大模型的推理和信息整合能力,生成最终的回答。如果检索发现客户的提问可以与知识库的相关文本精确匹配,识问台就会直接通过搜索抛出回答,无需经过大语言模型的推理。

大语言模型结合本地知识库的推理工作流如下:

LLM+本地知识库

据悉,未来UCloud优刻得还支持外部企业级客户还通过“模型微调”的方式来实现专业领域的知识问答。UCloud可以基于客户的业务文档生成高质量的问答对,喂给开源的大语言模型做训练,重新生成一个精通客户业务的私有语言模型。客户侧通过web或者AI应用提交的问题话术经过一些标准化处理后,生成prompt,提交给客户的私有大模型,经过私有大模型的推理并生成最终回答。微调大语言模型的工作流如下:

模型微调

在这个工作流中,开源大语言模型可以是目前开源的任意一款模型,包括但不限于ChatGLM、T5、LLaMA 、MiniGPT-4等。

目前UCloud优刻得已经支持的文档格式有问答对、Html、MarkDown,未来预期还会支持PDF、Word、URL等格式,进一步扩大可支持的知识库的范畴,同时在台侧也会通过对使用问答的打分情况,筛选优质问答对,持续更新文本知识库。专业垂直领域的提问,大语言模型的回复准确率会随着资料库的丰富而持续提高。

写在最后

本次识问台的落地,是UCloud优刻得一次AI大模型业务场景的探索。从企业内部治理需求出发,优化内部信息查询机制,初步解决售前、售后的相关的技术支持问答,帮助提升技术支持的工作效率。作为云计算厂商,UCloud优刻得将全面投入大模型时代,继续保持敏锐的市场洞察力和快速的响应能力,持续关注大模型市场的最新趋势和客户需求,不断优化和拓展我们的产品和服务。

标签:

猜你喜欢

以创新驱动发展,火花思维获央广网“年度创新活力奖”
景联文科技高质量教育GPT题库:引领教育行业的技术革命
AI 2.0来袭,AIGC如何重新定义招聘?
国内最大BI国产化替换项目,永洪科技打造国产BI最强“芯”
微步在线参与编制,又一网络安全国家标准正式发布!
北京电信汇聚“云网算一体”澎湃动能 助力首都打造全球数字经济标杆城市
云砺(票易通)荣登“2023中国独角兽企业”榜单,引领企业协同赛道
TikTok电商东南亚周年庆,晒出年中大促成绩单
2023LEC全球授权展开幕,杰外科技旗下多个IP亮相现场
不吃晚饭可能会加速衰老?TIMESHOP时氪唤醒年轻力量,自信展现健康之美
从入睡难到失眠,都影响着心血管健康,赛乐瑞Super-K带来抗衰与心血管双重养护
河北省最大城商行 邦盛科技中标河北银行
趣链科技搭建大数据法律监督平台,助力整治“三包一挂”乱象
以数字孪生智慧,探索新型电力系统“最优解”
国内超声波焊接十大品牌,国产塑焊机哪家强?
华为云Stack:卓越运营助力政企客户迈向深度用云
端午档9亿票房列影史第二,光峰科技影院业务持续向好
MPE智能床,中国航天员的睡眠选择,再度花式破圈
7月邀您共探“智慧出行”的技术创新与产业协作,畅游汽车电子之旅!
王宝强携《八角笼中》做客东方甄选一小时卖出10万张票,36万人同时在线
三大趋势助力移动应用在2023年实现逆势增长
十年相伴美好成长,一位日立中央空调老用户的体验与心声
警惕夏季高温,若返NNK畅络因呵护心脑血管,守护健康机体
AI技术抢眼 中兴终端携全新产品亮相MWC上海
nubia Neo Air:极致轻薄的智能体验!全球首款消费级GPT无线AR智能眼镜亮相上海展
飞猫智联参展2023MWC,引领通信技术创新迈向光明未来
全场景燃气安全监测产品,用硬核力量守护城市燃气安全
2023地理信息软件技术大会召开,空间智能及遥感GIS一体化引关注
影石Insta360 拇指相机 GO 3:轻巧便携、解放双手 ​
深装集团与华为云达成全面合作 共同推进建筑装饰行业数字化转型进程