DeepSeek如何在Ollama上本地部署

在在Ollama上本地部署DeepSeek涉及几个关键步骤。以下是详细指南：

1. 环境准备

确保系统已安装Docker和Ollama CLI。

# 安装Docker
sudo apt-get update
sudo apt-get install docker.io

# 安装Ollama CLI
curl -fsSL https://ollama.com/install.sh | sh

2. 拉取DeepSeek镜像

从Docker Hub拉取DeepSeek镜像。

docker pull deepseek/deepseek:latest

3. 配置Ollama

创建Ollama配置文件ollama-config.yaml，设置DeepSeek相关参数。

services:
  deepseek:
    image: deepseek/deepseek:latest
    ports:
      - "8080:8080"
    environment:
      - DEEPSEEK_API_KEY=your_api_key
    volumes:
      - ./data:/data

4. 启动服务

使用Ollama启动DeepSeek服务。

ollama up -f ollama-config.yaml

5. 验证部署

访问http://localhost:8080，确保服务正常运行。

curl http://localhost:8080/health

6. 使用DeepSeek API

通过API调用DeepSeek服务，例如文本相似度计算。

import requests

url = "http://localhost:8080/api/similarity"
headers = {"Content-Type": "application/json"}
data = {"text1": "Hello", "text2": "Hi"}

response = requests.post(url, json=data, headers=headers)
print(response.json())
```以上步骤完成了DeepSeek在Ollama上的本地部署和基本使用。