本地部署DeepSeek的方法有很多,这篇给大家介绍的是依靠LM Studio的部署操作,只需要两步就能够搞定。
官网下载:https://lmstudio.ai
夸克网盘下载:https://pan.quark.cn/s/aabde2b4e657
1、根据自己的需求下载对应版本就行了,有Mac、Windows和Linux。
2、下载完成会双击程序,安装LM Studio,按照软件默认的设置,什么都不用去修改,一直点击下一步,直到完成。安装完成后是程序介绍,依然是不用去操作,直接点击右上角的跳过就可以了。该程序支持中文,不过默认是英文,只需要点击软件右下角的齿轮按钮进行设置。
在language一项选择中文即可。
3、至此LM Studio安装完成。
1、如果你的网连接LM Studio模型库非常畅通,直接在LM Studio程序界面的左边,点击放大镜图标进入模型库,搜索下载deepseek模型即可。目前常规的模型包括1.5b、7b、8b、14b、32b、70b,这6个是蒸馏之后的模型。模型的数字越大,代表模型包含的内容越丰富,提供的内容会更加准确,也意味着,对于硬件的要求也更高。
2、如果你在LM Studio模型库下不动,那就从其他地方单独下载模型,然后导入到LM Studio。
夸克网盘下载:https://pan.quark.cn/s/8860201f6fdb
链接1:
https://www.modelscope.cn/organization/lmstudio-community
(进去搜deepseek就行)
链接2:
https://www.modelscope.cn/collections/DeepSeek-R1-Distill-GGUF-eec5fee2f2ee42
1、打开LM Studio软件。
2、在软件界面中,找到并点击“Load Model”按钮(或者通过菜单导航到导入模型的选项)。
3、弹出的文件浏览器窗口中,定位到你保存模型文件的目录。
4、选择你想要加载的模型文件,然后点击“打开”或“选择”按钮。
5、LM Studio会尝试解析并加载你选择的模型文件。
至此,使用LM Studio部署DeepSeek本地服务大致已经完成,具体的一些细节,可以参照下方B站UP主的视频讲解:
声明:本篇内容来自互联网公开分享,仅供个人学习交流使用,请勿用作商业途径!有问题请点击标题下方的“反馈按钮”!