后端语言Nodejs如何调用deepseek本地大模型的方法

后端语言Nodejs如何调用deepseek本地大模型的方法

1、需求启动ollama deepseek服务(windows电脑忽略)

ollama serve

2、Nodejs调用deepseek代码如下

https://www.npmjs.com/package/ollama

npm i ollama --save
import { Ollama } from 'ollama'

const ollama = new Ollama({ host: 'http://127.0.0.1:11434' }) 
let prompt = `你叫什么`;
const response = await ollama.chat({
  model: 'deepseek-r1:7b',
  messages: [{ role: 'user', content: prompt }],
})

console.log(response.message.content)

回到顶部