创新实力强、应用落地广,GenAI(生成式AI)技术栈领域,商汤科技位居国内榜首!
近日,权威研究机构弗若斯特沙利文(Frost & Sullivan, 简称“沙利文”)联合头豹研究院发布《2024年中国GenAI技术栈市场报告》,商汤科技在11个GenAI厂商中超越阿里云、百度智能云和华为云,增长指数和创新指数均排名国内第一,在全球排名中仅次于亚马逊云科技。
报告认为,商汤积极投入技术创新,致力于为用户提供行业领先的自研模型与高性能国产化的推理引擎,同时建立了包含机器与人工审核、安全评测与内容安全策略迭代升级等在内的完整性安全管理方案,是GenAI技术栈领域的领导者。
基于商汤大装置,创新力和增长力领跑国内市场
GenAI技术栈是连接硬件设施层与终端用户交互的中间层,集成了包括基础模型、数据处理、模型训练调优、模型部署监控等技术和工具,提供从模型初始化到部署全过程的一站式解决方案。
《2024年中国GenAI技术栈市场报告》从创新和增长两个维度、共10个一级评价指标进行GenAI技术栈竞争力分析。
报告显示,商汤科技在两个维度中均排名全球第二、国内第一,其中创新维度获得“资源利用率优化管理、缓存与记忆、精炼压缩模型”三大模块最高分,展现出三大能力优势:
· 高效的资源利用率优化能力:商汤自研高性能大模型推理引擎性能优势明显,在相同算力及电力成本下将每秒请求数(QPS)提升4倍。同时基于训推一体、算电协同等技术创新,万卡集群GPU资源利用率最高达到80%以上。
· 高效的缓存与记忆能力:建立了数据飞轮机制,形成自我强化的反馈循环,实现模型性能的不断提升。
· 精炼的压缩模型能力:在代码小浣熊办公助手和代码助手应用场景中,通过模型体积压缩,实现数倍的显存节省、高比例的速度提升。
在增长维度,商汤科技斩获“行业客户与场景方案”模块最高分,展现出了商汤生成式AI落地应用的广度和深度:
· 覆盖领域广:商汤“日日新”大模型已在金融、医疗、Copilot助手、拟人交互、智能终端等关键领域确立了卓越的应用价值和领先地位。
· 应用触达深:商汤科技与各行业头部企业展开紧密合作,助力运营商提高算力资源利用,助力媒体创新内容生产模式,为生成式AI应用落地提供了丰富的标杆案例与行业经验。
引领GenAI技术栈发展趋势,加速GenAI应用落地
报告指出,高质模型的构建、安全合规的优化、推理成本的降低、数据价值的释放、产品应用化的实现,是用户在构建GenAI应用时的核心考量因素。
而商汤科技在GenAI技术栈领域取得领先,主要源于以下几个方面:
· 积极的创新投入:不仅构建了自主算力平台,商汤日日新大模型在多评测集上也均保持领先地位,让用户可以调用不同模态与不同行业性的基础大模型。
· 高性能的推理引擎:商汤大型分布式推理系统,拥有高性能算子库与极致优化的推理框架,在软硬件底层优化、自适应分离架构、国产化生态打造以及前瞻性的“多模态AGI+云/边/端系统”布局等层面优势显著。
· 完善的安全管理框架:商汤针对GenAI场景,设计了符合大模型特质的内容安全运营体系,为用户提供完整的安全管理方案。
报告认为,GenAI技术栈将呈现模块化、标准化、平台化、简易化、去中心化的发展趋势,MaaS(模型即服务)的广泛推广还将重构生成式AI的商业化生态。同时,作为一项底层创新技术,GenAI还将催生全新类型的信息商品,有望造就出全新的产品时代和超级产品。
商汤大装置万象,包含模型开发平台和应用开发平台,面向企业与开发者提供模型管理、模型微调、推理部署、数据管理,以及智能体应用等一站式大模型服务,并成功应用于央国企、运营商、汽车、互联网等行业客户。
商汤大装置将不断完善GenAI技术栈,通过一系列工具与服务协助用户降低模型开发门槛,以MaaS大模型即服务的创新模式,推动生成式AI应用的商业化落地和生态构建。
