润和软件发布AIRUNS 2.0,领航AI软硬一体化新时代

2024-09-27 12:02:18     来源:

AI 2.0 时代,企业愈发注重 AI 技术的场景化和商业化。然而,在实际落地过程中,企业面临着资源管理、运维监控、资源调度以及团队协作等多方面挑战,市场迫切需要一款具备强大管理能力,既能有效管控又能灵活调度的 AI 研发平台级产品。江苏润和软件股份有限公司(以下简称“润和软件”)秉承创新驱动理念,重磅推出全新 AI 软硬一体化平台—— AIRUNS 2.0,通过增强全栈 AI 能力,助力企业 AI 快速落地。

润和软件发布全新AI软硬一体化平台——AIRUNS 2.0

AIRUNS 2.0的发布,进一步提升了数据、算力等AI核心要素的管理能力,,相较1.0版本,着重强化了AI软硬一体化、端到端数据管理、AI算力调度、AI训推加速、云-边-端模型部署五大能力,使AI应用落地更高效、便捷,帮助企业快速实现商业价值。

AIRUNS 2.0功能首页

AI软硬一体化能力:

AIRUNS 2.0可以实现从芯片到应用的全栈优化。其核心功能包括深入了解硬件架构的深度集成、润和软件自研的 HopeOS 操作系统优化智能计算场景以及兼容昇腾和英伟达平台的异构能力,优化 CUDA 及 CANN 框架。

AIRUNS 2.0 AI软硬一体化能力架构图

业务价值:

最大化发挥硬件潜能,提高系统的整体性能和能效,减少计算资源浪费,确保复杂计算任务能够高效完成;带来了更流畅的用户体验,减少性能瓶颈,且能够处理大规模计算任务,提升AI研发和应用的整体效率;在高性能的基础上,硬件选择更加自由,减少了技术锁定的风险,提升了系统的适应性。

端到端数据管理:

统一架构设计的数据链管理,覆盖数据采集、传输、存储和分析;数据安全控制,通过加密和访问控制确保数据安全与隐私;以及支持跨云、边缘和终端设备的数据共享与协同。

业务价值:

减少数据在各个环节中的中断和延迟,提升数据流转效率,使得模型训练和推理的时间大幅缩短;确保数据的完整性、准确性及安全性,尤其在处理敏感数据时提供了更高的合规性保障,降低了数据泄露和误用的风险;在不同的计算环境中灵活调度和处理数据,提供更广泛的应用支持,提升业务流程的协同效率和灵活性。

AI算力调度:

统一管理所有AI算力(CPU、GPU、NPU)并进行策略调度;支持动态调用、优先调用、任务抢占和叠加等特性;实现算力资源的精细化切分,支持进程级封装和虚拟显存扩展;采用热加载、动态选举机制和职责链模式优化调度策略。

AIRUNS 2.0算力调度架构图

业务价值:

各种算力资源得到充足利用,避免算力孤岛,优化资源分配,避免资源浪费,同时降低管理复杂度;AI业务共享算力集群,用完即释放,充分复用底层算力资源,最大化提升AI算力能效;以最少的硬件资源,满足更多的AI业务;提升业务并发量、吞吐量,提升集群算力能效,保证业务的连续性;灵活应对多环境下的不同业务调度需求,提升系统的扩展性、容错能力和实时性。

AI训推加速套件:

针对主流开源大模型的显存和算子深度优化、支持数据和模型并行计算的高效并行架构、动态资源调度与负载均衡、根据负载变化自动调整计算任务、全面的监控、故障诊断、容错机制。

业务价值:

提高单卡运行大模型的效率,降低硬件需求和运营成本;支持数据和模型并行计算,显著缩短训练时间并提升模型推理吞吐量,快速响应市场需求;根据负载变化自动调整计算任务,确保资源利用最大化,提高系统性能和稳定性;通过全面的故障诊断和监控机制,实现快速故障侦测与容错,确保业务持续稳定运行。

云-边-端的模型部署:

一键式自动化部署,迅速将模型从开发环境推送至生产环境;支持云-边-端的部署模式,并提供模型转换、压缩和量化工具;多版本管理,支持蓝绿部署;兼容多种硬件环境和 AI 框架(TensorFlow、PyTorch、MindSpore等),支持多种服务协议(TGI、VLLM、OpenAI、Triton等)。

AIRUNS 2.0云-边-端模型部署结构图

业务价值:

缩短模型上线时间,提高生产环境的部署效率,加快产品迭代速度;实现灵活的资源利用,优化整体系统性能;确保模型更新的安全性与稳定性,降低上线风险并提高业务连续性;满足不同业务需求,提升系统的灵活性和可扩展性,促进技术的快速集成与应用。

基于 AIRUNS 2.0 完善成熟的AI应用集成功能,可成功搭载成熟的、可商业化的解决方案,如大模型视觉、RAG+、AI测试解决方案,在平台上达到数据高效处理、决策实时支持以及资源灵活调度的效果。

大模型(视觉)解决方案

润和软件大模型(视觉)解决方案架构图

方案优势:

相较传统的计算机视觉模型,润和软件大模型(视觉)解决方案具备以下突出优势:

高准确率,满足复杂极端场景智能需求;高泛化性,满足多样性场景、目标识别需求;全场景自主解析,场景规则自适应;多模态融合,图文提示定义功能,快速生成新任务。

大模型(RAG+)解决方案

润和软件大模型(RAG+)解决方案内容生成系统流程

核心功能:

精准检索:实现语义到关系型数据库的精准化搜索和归纳,并进行BI展示;智能问答:提供基于企业内部数据(文档、表格、音视频等)的问答分析能力;智能撰写:基于提纲型模板,结合大模型技术提供智能化内容撰写服务,包括段落、表格、折线图、柱状图等;智能审核:根据法律法规、用户制定的规则规约等总结出检测规则,根据规则检测用户上传资料的合法合规性。

大模型(AI测试)解决方案

通过引入AI测试,能显著减少原有测试工程师团队的工作负担,使工程师团队可以专注于高价值的分析和决策。AI测试可以高效领导测试流程,自动生成和优化测试产物,同时工程师可借助AI工具验证产物的准确性和完整性,确保测试质量。

润和软件大模型(AI测试)解决方案

方案价值:

效率提升:工作量可减少50%以上,同时确保测试覆盖率保持在95%以上;快速反馈:30分钟内完成变更影响分析,原本需要2-3小时的人工评估时间大幅缩短;自动化测试案例生成:设计和编写测试脚本的时间可缩短60%以上;测试执行自动化:同时运行多个测试任务,测试执行效率提升4倍;质量保障:准确性,回归缺陷率降低20%,大幅提升了测试结果的可靠性;资源优化:项目整体测试时间减少30%-40%,从而能够更好地分配团队资源,降低项目成本,确保高效交付。

为更好满足各行业AI需求,润和软件将持续更新AIRUNS,后续版本聚焦四个关键领域迭代创新:数据管理创新、训练过程高效、模型管理智能、部署形态灵活,为行业提供好用、易用、高性能的AI产品。

润和软件AIRUNS后续版本计划

未来,润和软件将持续发挥AI创新技术研发实力,推出更具市场竞争力的AI创新产品和解决方案,持续赋能千行百业智能化转型升级。

 

标签:

猜你喜欢

CBA联赛迎来第30个赛季,李宁打造经典版球衣传承历史荣耀
三星画壁艺术电视盛惠:享以旧换“星”与艺术画廊服务限时升级多重福利
跨越边界 智启新程!跨维智能全产品系列宣讲会圆满召开
为用户隐私和交易安全保驾护航,35款认证类SDK已适配HarmonyOS NEXT
华为云正式启动ModelArts Studio商用合作,携手伙伴加速千行万业数智转型
推动绿色转型,正泰新能荣获2024年ESG卓越企业奖
多位知名UP主加入!口袋方舟众创游戏关卡活动火热启动
华为云&信通院联合发布价值报告,为城市全域数字化升级献计出力
北京城建智控牵手IoTDB为地铁运行保驾护航,节省60%数据库资源
2024年,漏洞利用与治理迈向“智能化对抗”
假期出游必备——华为钱包交通卡,全国330+城市一卡通行
国庆轻装上阵!用华为手机交通卡,可刷全国330+城市公交地铁
以技术创新为驱动,持中立姿态,金山云助力大模型发展落地
锐龙 5 7600X3D 发布后,i5-14600KF 的性价比继续升高
【喜讯】又双叒叕!空特医口腔科赵领洲入选全球前2%顶尖科学家榜单
携手贵阳伙伴,华为极简全闪数据中心先锋行动共绘数智贵州商业新蓝图
特赞科技Tezign发布内容人工智能Content + AI新产品 重塑品牌内容体验,驱动品牌增长
RTX 4060加持,大学生游戏本华硕天选5补贴价到手仅需5838.4元!
万兴科技亮相东盟博览会 加速国产数字办公解决方案出海
引领电梯业互联网营销新趋势,美的LINVOL领沃929直播盛宴即将开启
从“云”启航,引领数字时代 —— 王志龙的微服务治理之道
硬件、画质都“炸裂”!海信电视新品最新爆料:百吋电视恐无对手
市场变革进行时,数智转型向未来!2024百度爱采购超级直播盛典「财富说」完美收官
德施曼GPTfinger指纹识别获世界纪录认证
端点科技再助客户企业荣摘2024年度“鼎新杯”大奖!
专为大工业而生!阳光电源全新一代工商储PowerStack 800CS重磅发布
2024年东莞城市科学节启动
第三届数贸会:今年数贸会流行汽车钛杯 ——特美刻汽车钛杯新品亮相 天使机器人惊艳站台
4K AI 视讯摄像头 寻影 Meet 2 重磅发布,打造高效沟通与直播体验
构筑“腾讯云智算”品牌:智能高性能网络IHN为AI而生