
20元-云端部署deepseek-R1-70b版本
目前deepseek相当火,很多教程介绍了怎么在win环境下部署deepseek-R1,而这样的教程大多部署的是最适合个人电脑部署的7b或者8b版本。这几个版本几乎是普通电脑能在本地部署的版本极限了,当然你也可以部署更小数据量的版本。而我这篇则是在教你怎么部署更大数据量的版本,也就是70b乃至于671b的满血版。
(以下是配置需求表)
首先,既然自己的电脑达不到这个性能要求,那肯定需要一台云服务器。目前我实测可以部署的最高版本是70b,可以达到678b的需求的云服务商相当少,需要自己去找。
进入雨云官网注册账号,点击裸金属服务器,选择以下配置
重要的来了,点击边上的试用,就可以得到20元24小时的超高配服务器了
这个配置运行70b的版本还是相当轻松的
然后选择系统为Debian 12 安装 1Panel 运维面板
根据 预装软件信息 里的外网地址和账户密码进入 1Panel
在软件中心里下载Ollama安装
在Docker-容器界面中找到Ollama容器,点击终端
在弹出shell类型选择bash,点击确认
在终端界面中输入ollama run deepseek-r1:70b,回车运行DeepSeek-R1模型
(这里需要等待非常长的时间可能需要3-4个小时,因为下载镜像的人很多,懂的话也可以使用其他源)
完成后就可以在这个窗口对话了。退出再次进入的话需要再输一次ollama run deepseek-r1:70b就可以
之后其实还可以搭建一个网页访问窗口,但20元只有24小时,不是很有必要。
本文参考:使用宝塔面板部署一个属于自己的 DeepSeek | 归去如风
本文参考:DeepSeek-R1各版本配置需求与适用场景概览 - 知乎
(本文指在于以最低的成本让你体验大数据量的deepseek,如用于生产环境等其他用途,请慎重考虑该方法)