精华 linux 通过docker安装ollama 以及deepseek
在Linux上安装Ollama,您可以选择一键安装脚本或手动下载安装包进行安装。以下是两种方法的详细说明:
一、一键安装脚本
Ollama为Linux用户提供了便捷的一键安装脚本。您只需在终端中执行以下命令即可完成安装:
curl -fsSL https://ollama.com/install.sh | sh
如果遇到权限问题(例如提示需要sudo权限),您可能需要使用sudo来执行该命令:
sudo curl -fsSL https://ollama.com/install.sh | sh
一键安装脚本会自动下载并安装Ollama及其所需的依赖项,然后启动Ollama服务。
二、手动下载安装包
如果您希望手动下载安装包进行安装,可以按照以下步骤操作:
-
下载安装包:
- 访问Ollama的官方下载页面或GitHub发布页面。
- 根据您的系统架构(如x86_64或arm64)选择对应的安装包并下载。例如,对于x86_64架构的系统,您可以下载
ollama-linux-amd64.tgz
。
-
上传并解压安装包:
- 将下载的安装包上传到您的Linux服务器或本地机器上的某个目录。
- 使用
tar
命令解压安装包:
tar -xzvf ./ollama-linux-amd64.tgz
-
启动Ollama服务:
- 进入解压后的目录,并启动Ollama服务:
./bin/ollama serve &
-
配置环境变量:
- 为了确保
ollama
命令可以在任何位置被调用,您需要将Ollama的bin目录添加到系统的PATH环境变量中。这可以通过编辑您的shell配置文件(如.bashrc
或.zshrc
)来完成:
echo 'export PATH=$PATH:/path/to/ollama/bin' >> ~/.bashrc source ~/.bashrc
- 您还可以根据需要设置其他环境变量,如
OLLAMA_KEEP_ALIVE
、OLLAMA_HOST
和OLLAMA_MODELS
等:
echo 'export OLLAMA_KEEP_ALIVE=12h' >> ~/.bashrc echo 'export OLLAMA_HOST=0.0.0.0:11434' >> ~/.bashrc echo 'export OLLAMA_MODELS=/data/ollama/models' >> ~/.bashrc source ~/.bashrc
- 为了确保
-
(可选)创建systemd服务文件:
- 如果您希望Ollama服务在系统启动时自动启动,可以创建一个systemd服务文件。例如,在
/etc/systemd/system/
目录下创建一个名为ollama.service
的文件,并添加以下内容:
[Unit] Description=Ollama Service After=network-online.target [Service] ExecStart=/path/to/ollama/bin/ollama serve User=root Group=root Restart=always RestartSec=3 Environment="PATH=$PATH" Environment="OLLAMA_HOST=0.0.0.0:11434" Environment="OLLAMA_MODELS=/data/ollama/models" [Install] WantedBy=default.target
- 然后,重新加载systemd配置并启用Ollama服务:
sudo systemctl daemon-reload sudo systemctl enable ollama sudo systemctl start ollama
- 如果您希望Ollama服务在系统启动时自动启动,可以创建一个systemd服务文件。例如,在
通过以上步骤,您就可以在Linux上成功安装并配置Ollama了。请注意,根据您的具体需求和系统环境,您可能需要调整上述步骤中的某些细节。
更多关于linux 通过docker安装ollama 以及deepseek的实战系列教程也可以访问 https://www.itying.com/goods-1206.html
1 回复