【DeepSeek教程】DeepSeek R1本地部署学习指南,保姆级手把手教会哦,不会的看过来,避免入坑
DeepSeek简介:
DeepSeek是由杭州深度求索公司开发的人工智能技术,专注于创建先进的大语言模型。其最新模型DeepSeek-V3拥有671B参数,采用MoE架构,旨在降低推理成本并提高性能。DeepSeek支持多种应用场景,如编程、写作和数据分析,并以低成本、高效率及开源特性受到用户欢迎。
DeepSeek的优势:
1.性能卓越:在语言理解与生成、逻辑推理和代码生成等任务上表现出色。其DeepSeek-V3版本训练成本低但性能接近顶尖AI产品,如GPT-4o和Claude-3.5-Sonnet。
2.成本效益高:通过算法优化(如MoE架构)和数据效率提升,DeepSeek实现了低成本高效能的目标。例如,DeepSeek-V3的训练成本仅为557.6万美元,远低于GPT-4的约1亿美元。
3.开源灵活部署:提供开源版本,支持设备端运行,降低了中小企业和开发者的使用门槛,促进了AI技术的普及。 多语言处理与安全性:擅长实时翻译和内容审核,特别适用于商务和教育场景。
4.联网搜索功能:能够实时获取并分析互联网信息,增强了模型的数据丰富度和时效性。
5.生态建设:尽管相比一些国际大厂的产品在插件生态和行业适配性方面还有提升空间,但DeepSeek已经构建了一个活跃的开发者社区,并且在中国市场中显示出了强大的本土化适应能力。
Deepseek大模型本地部署
Windows电脑部署DeepSeek R1
电脑配置
最低配置
最低配置(适用于基础7B模型运行)
推荐配置
注:最低配置适用于基础7B模型运行;推荐配置配备高性能GPU,适合需要加速的任务;高端配置适合
运行更大的70B模型。
安装Ollama 首先你需要安装一个Ollama,这个软件相当于运行DeepSeek模型的底层,没有这个底层就没办法跑 DeepSeek AI模型。 1、下载Ollama Ollama 是一个开源框架,专门设计用于在本地运行大型语言模型(LLMs https://ollama.com/download/windows
2、安装Ollama 默认会安装到C盘没法改存储目录,所以C盘要有足够的空间,最少20G
使用Ollama部署DeepSeek R1模型
https://ollama.com/search
版本:1.5b,适用于一般文字编辑使用(需要1.1GB空余空间)
ollama run deepseek-r1:1.5b
版本:7b,DeepSeek的第一代推理模型,性能与OpenAl-01相当,包括从基于Llama和Qwen的DeepSeekR1中提取的六个密集模型(需要
4.7GB空余空间)
ollama run deepseek-r1:7b
版本:8b,(需要4.9GB空余空间)
ollama run deepseek-r1:8b
版本:14b,(需要9GB空余空间)
ollama run deepseek-r1:14b
版本:32b,(需要20GB空余空间)
ollama run deepseek-r1:32b
版本:70b,(需要43GB空余空间)
ollama run deepseek-r1:70b
版本:671b,(需要404GB空余空间)
ollama run deepseek-r1:671b
第一次执行命令需要下载相关的资源,下次后第二次运行就很快了
终端中使用DeepSeek R1模型
MACOS电脑部署DeepSeek R1
电脑配置
最低配置
最低配置(适用于基础7B模型运行)
推荐配置
注:最低配置适用于基础7B模型运行;推荐配置配备高性能GPU,适合需要加速的任务;高端配置适合
运行更大的70B模型。
安装Ollama 首先你需要安装一个Ollama,这个软件相当于运行DeepSeek模型的底层,没有这个底层就没办法跑 DeepSeek AI模型。 1、下载Ollama Ollama 是一个开源框架,专门设计用于在本地运行大型语言模型(LLMs https://ollama.com/download/mac
2、安装Ollama 双击下一步下一步安装
使用Ollama部署DeepSeek R1模型 https://ollama.com/search
版本:1.5b,适用于一般文字编辑使用(需要1.1GB空余空间)
ollama run deepseek-r1:1.5b
版本:7b,DeepSeek的第一代推理模型,性能与OpenAl-01相当,包括从基于Llama和Qwen的DeepSeekR1中提取的六个密集模型(需要
4.7GB空余空间)
ollama run deepseek-r1:7b
版本:8b,(需要4.9GB空余空间)
ollama run deepseek-r1:8b
版本:14b,(需要9GB空余空间)
ollama run deepseek-r1:14b
版本:32b,(需要20GB空余空间)
ollama run deepseek-r1:32b
版本:70b,(需要43GB空余空间)
ollama run deepseek-r1:70b
版本:671b,(需要404GB空余空间)
ollama run deepseek-r1:671b
第一次执行命令需要下载相关的资源,下次后第二次运行就很快了 终端中使用DeepSeek R1模型
Linux部署DeepSeek R1
电脑配置
最低配置
最低配置(适用于基础7B模型运行)
推荐配置
注:最低配置适用于基础7B模型运行;推荐配置配备高性能GPU,适合需要加速的任务;高端配置适合
运行更大的70B模型。
下载安装Ollama
Ollama 是一个开源框架,专门设计用于在本地运行大型语言模型(LLMs)
https://ollama.com/download/linux
curl -fsSL https://ollama.com/install.sh | sh
提示: 如果第一次执行命令提示网络相关问题的话,多试几次
使用Ollama部署DeepSeek R1模型
https://ollama.com/search
版本:1.5b,适用于一般文字编辑使用(需要1.1GB空余空间)
ollama run deepseek-r1:1.5b
版本:7b,DeepSeek的第一代推理模型,性能与OpenAl-01相当,包括从基于Llama和Qwen的DeepSeekR1中提取的六个密集模型(需要
4.7GB空余空间)
ollama run deepseek-r1:7b
版本:8b,(需要4.9GB空余空间)
ollama run deepseek-r1:8b
版本:14b,(需要9GB空余空间)
ollama run deepseek-r1:14b
版本:32b,(需要20GB空余空间)
ollama run deepseek-r1:32b
版本:70b,(需要43GB空余空间)
ollama run deepseek-r1:70b
版本:671b,(需要404GB空余空间)
ollama run deepseek-r1:671b
终端中使用DeepSeek R1模型