趋境科技发布大模型推理工作站:仅用10%成本私有部署DeepSeek-R1 671B版

2025-02-14 11:59:16     来源:

Deepseek-R1 引爆海内外 AI 界——其开源协议下接近人类专家水平的推理能力,让企业级AI应用真正进入"智力无需妥协"时代。但动辄数百万的硬件投入、复杂的集群部署、高昂的运维成本,让很多企业对本地化部署望而却步。

趋境科技以突破性的技术创新,推出AI大模型推理软硬一体工作站,让推理门槛降低 10 倍,实现AI私有化部署的极致性价比,打造高效、安全且经济的业界标杆级解决方案。

产品四大革新重新定义企业级AI部署

仅用传统部署方案成本的 10%,获得顶尖大模型的能力

传统方案需数百万的硬件投入,趋境科技通过自研推理框架+异构算力优化,将DeepSeek-R1/V3满血版的部署成本压缩至数十万级。单台塔式工作站即支持671B参数模型的流畅推理。

在工作站中,还能够同时对外提供 Qwen 2.5 72B、Qwen 2.5 32B 以及 671B DeepSeek R1 三个模型的服务。而且在三个服务同时开启的情况下,运行 671B DeepSeek-R1,也能够达到 286 token/s 的预填充和 14 token/s 的生成速度,比开源版本的 llama.cpp 最高快 28 倍

开箱即用,简单部署,无需进机房

工作站采用液冷散热与软硬一体设计,让工作站安静无噪、无需专业机房,甚至可置于办公室角落。企业从开箱到上线仅需几小时,彻底摆脱传统私有云部署的复杂调试与运维负担。

异构算力释放极致性能

采用业界首创的推理架构,在单张4090显卡上实现业界5倍以上的推理效率。即使面对 DeepSeek-R1 满血版的复杂任务,也能稳定支撑,尤其对于需要处理上万级 Token 上下文的长序列任务(比如大规模代码库分析)来说,这相当于是从“分钟级等待”瞬间迈入“秒级响应”,CPU的算力潜能得到彻底释放,让中小团队以“轻量级”硬件获得“智算中心级”的推理能力。

国产芯片兼容生态闭环

趋境AI大模型推理软硬一体工作站还深度整合英伟达、昇腾等多种芯片,实现从指令集到应用层的全栈优化。

业界首创的技术支撑

以 DeepSeek-R1 为代表的强稀疏化 MoE 模型需要全新的私有化架构设计,趋境科技通过底层架构创新,开创软硬协同的“智算”新范式:

全系统异构协同:通过算力划分和高性能算子,将来自存储、CPU、GPU、NPU的算力高效融合,充分释放全系统的存力和算力,提升大模型推理性能,实现系统级能效跃升。

以存换算:利用存储空间,为大模型加入处理缓存记忆的能力,面对全新的问题也可以从历史相关信息中提取可复用的部分内容,与现场信息进行在线融合计算,进而降低计算量。突破传统计算瓶颈,让存储带宽转化为有效算力。

欢迎关注趋境科技微信公众号预约产品试用~http://bsms1aco6ndnhmmn.mikecrm.com/TdK3qJI

“AI民主化不是降低智力标准,而是重构技术边界。我们让每个勇于创新的团队,都能平等获得这个时代最顶尖的AI生产力。”——趋境科技

 

标签:

猜你喜欢

宁波博奥生物ATP荧光检测仪:打破国际垄断,引领微生物检测新时代
加速交通数智化应用落地!佳都科技知行交通大模型与DeepSeek优化融合
九方智投股票学习机全面升级, 六家机场体验店邀您打卡
春节档背后的营销方程式:解码安慕希×唐探1900的破圈密码
佳美嘉垂感大师喜获双奖,匠心致远,载誉前行
想走出“自证困局”的女孩们,,一起和Soul头脑风暴吧
春光药装拟更名“春光智能” 持续打造综合性智能装备集团
全球首个全尺寸内嵌DeepSeek手机 努比亚Z70 Ultra“满血”上线
通通App大力发展数字经济应用落地,获国家二级学会通经委‘把脉’
RealClip正式发布:重新定义轻量化数字内容交互体验
DeepSeek+昇腾+开源鸿蒙+开源欧拉,润和软件打造全场景云边端智能生态体系
三星在ISE 2025上展示了彩色电子纸和AI数字标牌解决方案
亚马逊连续五年成为全球最大的可再生能源企业购买者
销额第一!追觅自动集尘吸尘器的崛起之路
青禾晶元新厂房开工,助力半导体先进键合技术迈向新高度
创新,为代谢疾病开“新方”——香港浸会大学中医药学院副教授王凯亮
创新不辍 铸写荣耀 柯尼卡美能达一举揽获Keypoint Intelligence五项年度大奖
广州举办新春首场市区联动大型招聘会,金柚网携豆豆兼职带来多元化就业选择
正泰新能联合中国美术学院创意成果展示第二弹来了!
信息管理更智能 三星Galaxy S25系列用AI提升工作效率
万事通颖姐:从普通宝妈到私域创收达人,月入3千到3万的破局之道
春风行动上海站|静安区招聘活动顺利举行,金柚网助力求职者开启职场新程
星纪魅族在菲律宾举办新品发布活动 全球化战略再落一子
在 IDE 里用 DeepSeek 满血版模型,看这篇就够了
迅达厨电四十载:谋”新”重”质”履践致远,以新质生产力领航行业高质量发展
凝心聚力 拥抱变化—迅达集团2025开年致辞
开春装修指南:迅达厨电,打造品质家居新体验
工业富联首次入选标普全球2025年《可持续发展年鉴》
传神语联:WMT2024 11个语言赛道中拿下10项冠军,以大模型能力将“机器翻译”推向新高度
网易伏羲上线满血版DeepSeek,助力网易数智旗下多业务全面接入