精华 linux 通过docker安装ollama 以及deepseek

发布于 1周前 作者 itying888 来自 DeepSeek

在Linux上安装Ollama,您可以选择一键安装脚本或手动下载安装包进行安装。以下是两种方法的详细说明:

一、一键安装脚本

Ollama为Linux用户提供了便捷的一键安装脚本。您只需在终端中执行以下命令即可完成安装:

curl -fsSL https://ollama.com/install.sh | sh

如果遇到权限问题(例如提示需要sudo权限),您可能需要使用sudo来执行该命令:

sudo curl -fsSL https://ollama.com/install.sh | sh

一键安装脚本会自动下载并安装Ollama及其所需的依赖项,然后启动Ollama服务。

二、手动下载安装包

如果您希望手动下载安装包进行安装,可以按照以下步骤操作:

  1. 下载安装包

    • 访问Ollama的官方下载页面GitHub发布页面
    • 根据您的系统架构(如x86_64或arm64)选择对应的安装包并下载。例如,对于x86_64架构的系统,您可以下载ollama-linux-amd64.tgz
  2. 上传并解压安装包

    • 将下载的安装包上传到您的Linux服务器或本地机器上的某个目录。
    • 使用tar命令解压安装包:
    tar -xzvf ./ollama-linux-amd64.tgz
  3. 启动Ollama服务

    • 进入解压后的目录,并启动Ollama服务:
    ./bin/ollama serve &
  4. 配置环境变量

    • 为了确保ollama命令可以在任何位置被调用,您需要将Ollama的bin目录添加到系统的PATH环境变量中。这可以通过编辑您的shell配置文件(如.bashrc.zshrc)来完成:
    echo 'export PATH=$PATH:/path/to/ollama/bin' >> ~/.bashrc
    source ~/.bashrc
    • 您还可以根据需要设置其他环境变量,如OLLAMA_KEEP_ALIVEOLLAMA_HOSTOLLAMA_MODELS等:
    echo 'export OLLAMA_KEEP_ALIVE=12h' >> ~/.bashrc
    echo 'export OLLAMA_HOST=0.0.0.0:11434' >> ~/.bashrc
    echo 'export OLLAMA_MODELS=/data/ollama/models' >> ~/.bashrc
    source ~/.bashrc
  5. (可选)创建systemd服务文件

    • 如果您希望Ollama服务在系统启动时自动启动,可以创建一个systemd服务文件。例如,在/etc/systemd/system/目录下创建一个名为ollama.service的文件,并添加以下内容:
    [Unit]
    Description=Ollama Service
    After=network-online.target
    
    [Service]
    ExecStart=/path/to/ollama/bin/ollama serve
    User=root
    Group=root
    Restart=always
    RestartSec=3
    Environment="PATH=$PATH"
    Environment="OLLAMA_HOST=0.0.0.0:11434"
    Environment="OLLAMA_MODELS=/data/ollama/models"
    
    [Install]
    WantedBy=default.target
    • 然后,重新加载systemd配置并启用Ollama服务:
    sudo systemctl daemon-reload
    sudo systemctl enable ollama
    sudo systemctl start ollama

通过以上步骤,您就可以在Linux上成功安装并配置Ollama了。请注意,根据您的具体需求和系统环境,您可能需要调整上述步骤中的某些细节。


更多关于linux 通过docker安装ollama 以及deepseek的实战系列教程也可以访问 https://www.itying.com/goods-1206.html

1 回复

更多关于linux 通过docker安装ollama 以及deepseek的实战系列教程也可以访问 https://www.itying.com/goods-1206.html


上传并解压安装包:

将下载的安装包上传到您的Linux服务器或本地机器上的某个目录。 使用tar命令解压安装包:

tar -xzvf ./ollama-linux-amd64.tgz

启动Ollama服务:

进入解压后的目录,并启动Ollama服务:

./bin/ollama serve &
回到顶部
AI 助手
你好,我是IT营的 AI 助手
您可以尝试点击下方的快捷入口开启体验!