近日,京东云已正式上线 DeepSeek-R1 和 DeepSeek-V3 模型,支持公有云在线部署、专混私有化实例部署两种模式,供用户按需部署,快速调用。
其中,专混私有化算力实例部署模式,已经同步上线京东云 vGPU AI 算力平台,为金融、企业、政府等客户提供数据不出域的私有化模型推理服务。
以 DeepSeek R1 版本为例,具体的使用步骤如下:
1、进入算力管理页面,点击租用新实例按钮
2、选择资源规格以及对应带有 deepseek 模型的镜像
3、资源创建成功后进入实例,启动即可与之对话
针对资源紧缺的场景,京东云支持通过蒸馏技术训练企业自己的大模型,减少模型部署所需资源的同时具备较好的性能。使用京东云 vGPU AI 算力平台,可以将多个蒸馏过的企业自有模型部署在同一张卡上,有效提升资源利用率 70%。
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。