2024MWC上海|浩鲸科技全面升级一站式模型工厂鲸智MAAS平台

2024-07-03 10:32:49     来源:

智能化技术飞速发展,在运营商AI+推动下,众多生产系统正积极融入并采纳大模型技术,从而引发了对大模型需求的迅猛增长。作为一站式模型工厂,MAAS平台以其卓越的大模型服务能力,覆盖了从模型数据、服务到应用赋能的全流程。然而,在实践落地过程中,数据采集处理、模型纳管微调以及模型服务保障三个环节面临了显著的挑战。

2024年 MWC上海展会上,浩鲸科技展示的鲸智MAAS平台,以“FUTURE WISE”为设计理念,成功突破了上述三大挑战。通过提供全面的数据管理、强大的模型兼容性、高效的模型微调机制、全面的评估体系以及灵活的发布策略,鲸智MAAS平台帮助客户打造了强大的AI+新质生成力,助力客户在智能化道路上不断攀登新的高峰。

同时,浩鲸科技深度参与工信部旗下人工智能关键技术和应用评测重点实验室《MaaS模型即服务技术与应用要求 第1部分:模型服务协议要求》标准编写,获“核心参编单位”称号。

https://img.toumeiw.cn/upload/ajax/20240703/537064d77d8407cff166aefa6829bbb9.png

全域高质量数据供给、解决模型幻觉问题

鲸智MaaS平台在1.0基础上强化自动化数据采集、智能化数据处理和编排式语料生成等能力,快速高效地为多重场景提供全域高质量数据组装和供给,从而提升模型性能、减少模型幻觉、满足特定场景需求以及加速模型迭代。

自动化数据采集:通过数据感知技术和数据理解技术,将广泛分布且变动迅速的数据以业务实体智能拟合,并采用分片技术自动执行完成数据采集。

智能化数据处理:首先对采集数据进行结构化处理,在通过智能数据标注、智能数据连接、数据增强、数据融合等技术,形成大模型投喂的高质量Questions and answers数据队列。

编排式语料生成:对于高质量的数据队列,通过场景化模板、在线编排式,以拖拉拽的方式,完成数据供给。

标准化的能力纳管、解决模型适配难问题

鲸智MaaS平台通过低门槛、高效率的模型微调技术和模型血缘分析,助力企业突破模型管理瓶颈,实现低成本、一站式模型纳管和微调,投入成本缩短至天,当前平台已满足40+大模型的透明化管理。

https://img.toumeiw.cn/upload/ajax/20240703/455d6451d02e65fd8e7339554ddc1004.png

低门槛、高效率的模型微调技术:提供模型微调标准的六步法(选择基模、创建微调任务、选择数据集、设置超参数、模型训练、模型评估),实现通用模型向场景模型的精调,全程低门槛、高性能的模型微调体验。

模型自动接入:通过自动采集基模的公开信息和评测报告,形成360度感知视图,采用插件化算法框架和硬件芯片适配,实现运行环境的自动化构建,确保基模型的快速高效接入与运行。

模型血缘分析:通过模型血缘分析智能分析不同层级模型的复杂依赖关系和环境依赖,实现分层存储和版本控制,结合区块链技术确保防篡改和可追溯。

高效率模型服务、解决模型准确性和及时性

鲸智MaaS平台提供了智能化的解决方案,将模型切换耗时从周降至天,实现资源消耗降低20%以上,意图识别准确率提升10%以上,为企业提供了更快、更省、更准的模型服务保障。

https://img.toumeiw.cn/upload/ajax/20240703/b90ca636caf281c1bf6e92a50d88c127.png

智能差距发现:通过编排式评测数据生成、自动化环境构建和资源分配、自动化指标收集等技术,实现模型场景化能力分析的自动化和高效率。

智能推理加速:通过KVCache、PagedAttention、动态批量、FlashAttion,模型编排、模型量化等技术,降低推理延迟,提高推理吞吐;同时,对客户问题术语进行标准化,对问题条件进行参数化、问题直达,减少对大模型的调用。

精准意图识别:采用意图识别代理技术,通过智能问题增强、多路要素提炼、智能问题分解和综合知识召回等多维度增强,提升了基础大模型的意图识别能力,实现场景化问题的精确识别,提高意图识别的准确性。

未来已来,智慧相伴。鲸智MaaS平台将持续以“FUTURE WISE”设计理念为基础,以创新为驱动力,不断优化和提升自身能力,帮助企业全面提升智能化水平,实现高效、精准、全面的AI应用。

 

标签:

猜你喜欢

文心智能平台发布首批三农智能体助力农民实现增收致富
步前程教育科技与北京华航航空服务签署战略合作协议
智能“追焦天线”助力网络全场景灵活覆盖
华为方向:拥抱移动AI新机遇,共筑新质5G-A新体验
服饰品牌如何实现“上新即打爆”?618大促新品策略解析
华为学堂开启夏令营活动!以天生会画激发儿童想象力和创作天赋
TCL未来创意家大赛收官,赋能年轻人迎接创意未来
文心大模型焕活殷墟甲骨文,实现跨越三千年的对话
躬身为学 筑梦桃李 ——记中国药科大学吴正红教授
创新探索煤层气 矿井安全守护航——记山东科技大学安全与环境工程学院倪冠华教授
国产最强星火大模型V4.0发布!越来越多的用户开始享受大模型带来的红利
深言科技入选北京市通用人工智能产业创新伙伴计划
宁夏移动成功完成电力行业全区首次5G RedCap轻量化通信模组试点应用
Xmars美国再拓新版图,开启全球增长新征程
2024EqualOcean出海全球化百人论坛成功举办
誉成云创牵手宁夏电信 共同开启算力浪潮
超大户外广告亮相全球多城 三星Galaxy Unpacked 2024下周见
被拐时仅15个月大,43岁男子通过抖音寻人找到亲生父母
Kimi首发“上下文缓存”技术,助推长文本大模型降本90%
淘宝网商家多了一个私域运营阵地:钉钉粉丝群
与夏日光影共舞 三星Galaxy S24 Ultra影像体验全解析
乡村足球今夏火爆再燃,“抖音足球嘉年华”7月走进凉山西昌
商汤科技元萝卜走进中国国家博物馆,展现中国原创AI与工业设计的十年精粹
湖北主持人抖音团购直播推广江汉路商圈,为本地商家带去商机
全年免费!环信发布出海创新版,助力泛娱乐创业者扬帆起航
泡泡玛特明星IP LABUBU空降曼谷机场 接机场面堪比一线明星
郑雯月:在数字化浪潮中破浪前行的创新先锋
“性能怪兽”又双叒屠榜了 ROG8 Pro登顶6月安兔兔性能榜
华为旗舰店开启「夏令营」,让孩子们暑假掌握「天生会画」
华为学堂开启夏令营活动:小朋友学习交流暑期打卡地