只需三步,在 CoresHub 上搭建你的 AI 大模型应用

2024-11-25 21:48:25     来源:

人工智能已进入大模型时代,ChatGPT  已不再一家独大,各种生成式大模型纷纷开源。基于开源模型制作定制化的落地应用成为开发爱好者研究的新方向,基石智算不仅提供 AI  算力的支持,还支持大模型应用开发部署,只需三步就能让开发者构建属于自己的 AI  应用。不仅内置了主流的通义千问、Llama、百川等主流开源大模型,还支持用户私有模型上传,快来搭建属于你的 AI 应用吧。

第一步 注册基石智算账号

注册并登录 coreshub.cn,完成认证,立即获得最高 500 元算力券!

第二步 模型部署

方式一 模型广场模型

1、内置主流模型,可以在模型广场选取模型进行部署

2、点击模型部署后,选取对应算力资源

方式 私有模型

1、将本地私有模型上传到 “存储与数据服务”

2、点击模型部署,创建推理服务,进行模型文件上传

创建推理任务

点击创建推理任务,进入推理服务详情页面,在服务信息页签内,获取外网访问地址和 API 密钥。

 模型调用

方式一 手动调用

1.模型部署完成后,用户可打开本地电脑终端。

2.执行如下命令,直接发送 HTTP POST 请求。

方式 集成架构的方式调用

1、开启第三方工具,配置相应参数,检查连通。以使用 OpenAI 为例,其他工具请用户自行参考相应的官方说明。API 代理地址:为推理服务的外网访问链接,用户需根据相应服务生成的外网链接自行修改。

2、API 连通检查完毕后,即可实现回话功能。

方式 临时调用

推理服务的外网访问链接生成后,可直接通过修改外网链接的方式,使用浏览器使用大语言模型。

1.完成模型部署,获取外网访问链接。

2.将外网访问链接中的  inference 字段修改为  inference-web。

3.在浏览器中输入修改后的外网链接,即可直接使用。


标签:

猜你喜欢

全面升级品牌保护机制,抖音电商获中国商标品牌建设卓越贡献奖
专访“索尼VP杯”虚拟制作大赛最佳影片获得者
绿茵战场,全程高能!与德力西电气一起重温中国足协杯决赛高燃时刻
同款摄像头差价达40元 还是京东3C数码“疯狂星期一”更省钱
45款平台服务类SDK适配原生鸿蒙,覆盖电商、商务办公等六大场景
真我手机携手理光GR,开启“光影有声”城市街拍
常宝丰等老艺术家赴营口为泰顺祥发展把脉掌舵
强芯+影像+AI ROG 9下单享京东白条至高12期免息
口碑相传 方显至尊体验 心系天下三星W25|W25 Flip 收获好评
为鸿蒙原生应用提供安全守护!73款安全风控类SDK已全面适配HarmonyOS NEXT
268万抖音网友“云游”青州博物馆,近3个月当地酒旅订单环比增321%
推动毫米波雷达网络安全,加特兰亮相AutoSens China 2024
公交车站玩转“黑科技”!正泰新能助力格鲁吉亚车站迈向未来
ExponTech华瑞指数云荣获2024年度AI存储产品金奖
温暖书香传递爱心力量 同方全球人寿广东分公司2024年“爱心书库”回访活动圆满举办
华为云助力钦州市连续两年荣获“中国领军智慧城市奖”
腾讯云徐樱丹:云和AI深度融合,为全球贸易解锁新机遇
2024菠萝科学奖揭晓 “科技+文旅”实力“圈粉”
数智世界集团新疆莎车产业园区项目二期正式投产
这次他们又登上了一个科学高点
生命暗物质——二十一世纪亟待开发的“资源蓝海”
全球智慧物联网联盟(GIIC)第一届理事会第三次会议暨第二次会员大会圆满召开
抖音电商助力国货商家成长,胖脚女孩创业卖大码女鞋年售百万双
山西就业社保服务全覆盖:国产操作系统助力基层服务升级
易宝支付携手各方共建“以人为本 智能向善”的数字未来
“寻乡味”好食材嘉年华活动盛大启幕 龙华区消费帮扶再上新阶
东方温暖举办智能马桶用户共创会,开启创新发展征程
英特尔® 至强® 6:专为 AI 和分析工作负载而构建
市场迎来新曙光!日本将NMN纳入功能性食品范畴,乐龄维成大赢家!
当“银发知播”遇上豆包AI,科技的温度再次具象化了