当前位置: 首页 » 程序下载部署 » 正文

DeepSeek本地化部署-LM Studio版

AI   5个月前 (10-01)   799℃      反馈
Warning 本文发布于 2024-10-01,距今已超过30天,请注意内容的有效性。

本地部署DeepSeek的方法有很多,这篇给大家介绍的是依靠LM Studio的部署操作,只需要两步就能够搞定。

一、下载LM Studio工具

官网下载:https://lmstudio.ai

夸克网盘下载:https://pan.quark.cn/s/aabde2b4e657

1、根据自己的需求下载对应版本就行了,有Mac、Windows和Linux。

2、下载完成会双击程序,安装LM Studio,按照软件默认的设置,什么都不用去修改,一直点击下一步,直到完成。安装完成后是程序介绍,依然是不用去操作,直接点击右上角的跳过就可以了。该程序支持中文,不过默认是英文,只需要点击软件右下角的齿轮按钮进行设置。

在language一项选择中文即可。

3、至此LM Studio安装完成。

二、下载DeepSeek模型

1、如果你的网连接LM Studio模型库非常畅通,直接在LM Studio程序界面的左边,点击放大镜图标进入模型库,搜索下载deepseek模型即可。目前常规的模型包括1.5b、7b、8b、14b、32b、70b,这6个是蒸馏之后的模型。模型的数字越大,代表模型包含的内容越丰富,提供的内容会更加准确,也意味着,对于硬件的要求也更高。

2、如果你在LM Studio模型库下不动,那就从其他地方单独下载模型,然后导入到LM Studio。

其他模型库地址

夸克网盘下载:https://pan.quark.cn/s/8860201f6fdb

链接1:

https://www.modelscope.cn/organization/lmstudio-community

进去搜deepseek就行

链接2:

https://www.modelscope.cn/collections/DeepSeek-R1-Distill-GGUF-eec5fee2f2ee42

三、导入模型文件到LM Studio‌使用DeepSeek

1、打开LM Studio软件。

2、在软件界面中,找到并点击“Load Model”按钮(或者通过菜单导航到导入模型的选项)。

3、弹出的文件浏览器窗口中,定位到你保存模型文件的目录。

4、选择你想要加载的模型文件,然后点击“打开”或“选择”按钮。

5、LM Studio会尝试解析并加载你选择的模型文件。

至此,使用LM Studio部署DeepSeek本地服务大致已经完成,具体的一些细节,可以参照下方B站UP主的视频讲解:



声明:本篇内容来自互联网公开分享,仅供个人学习交流使用,请勿用作商业途径!有问题请点击标题下方的“反馈按钮”!


顶
有用+0