Linux部署DeepSeek R1 Linux搭建DeepSeek R1开发环境

Linux部署DeepSeek R1 Linux搭建DeepSeek R1开发环境教程：https://www.bilibili.com/video/BV1r7PRe9EFq

下面通过两种方法安装了ollama，如果网络有问题没法访问github请参考方法2

方法1：命令行下载ollama启动Deepseek

1、下载安装ollama

Ollama 是一个开源框架，专门设计用于在本地运行大型语言模型（LLMs）

https://ollama.com/download/linux image-20250201143020692.png 使用命令行下载安装ollama（推荐）

curl -fsSL https://ollama.com/install.sh | sh

2、linux上面使用ollama运行deepseek大模型

版本：1.5b，适用于一般文字编辑使用（需要1.1GB空余空间）
ollama run deepseek-r1:1.5b

版本：7b，DeepSeek的第一代推理模型，性能与OpenAl-01相当，包括从基于Llama和Qwen的DeepSeek-R1中提取的六个密集模型（需要
4.7GB空余空间）
ollama run deepseek-r1:7b

版本：8b，（需要4.9GB空余空间）
ollama run deepseek-r1:8b

版本：14b，（需要9GB空余空间）
ollama run deepseek-r1:14b

版本：32b，（需要20GB空余空间）
ollama run deepseek-r1:32b

版本：70b，（需要43GB空余空间）
ollama run deepseek-r1:70b

版本：671b，（需要404GB空余空间）
ollama run deepseek-r1:671b

方法2：手动下载ollama 安装Ollama 运行DeepSeeK

适合没法访问Github的同学

1、 下载安装包：

访问Ollama的官方下载页面或GitHub发布页面下载本地安装包： 根据您的系统架构（如x86_64或arm64）选择对应的安装包并下载。

您的linux是x86_64架构的系统，您可以下载ollama-linux-amd64.tgz , 您的系统是Arm架构下载 ollama-linux-arm64.tgz

Github下载地址： https://github.com/ollama/ollama/releases/

百度网盘下载地址：

2、将下载的安装包上传到您的Linux服务器或本地机器上的某个目录。

使用tar命令解压安装包 减压的时候会把资源减压到当前目录，所以注意ollama-linux-amd64.tgz保存的目录

tar -xzvf ./ollama-linux-amd64.tgz

[root@ebs-144561 ~]# tar xzvf ollama-linux-amd64.tgz 
./
./bin/
./bin/ollama
./lib/
./lib/ollama/
./lib/ollama/libcudart.so.12
./lib/ollama/libcublasLt.so.12.4.5.8

3、启动Ollama服务：

进入解压后的目录，并启动Ollama服务：

./bin/ollama serve &

4、运行大模型

ollama run deepseek-r1:7b

回到顶部