Qwen2.5大语言模型ollama本地部署

发布于 1周前 作者 itying888 最后一次编辑是 5天前 来自 DeepSeek

DeepSeek R1属于推理大模型,目前没有能力处理图片、音频、视频等。Qwen是阿里巴巴集团Qwen团队研发的大语言模型和大型多模态模型系列。在实际项目中用的也非常多。无论是语言模型还是多模态模型,均在大规模多语言和多模态数据上进行预训练,并通过高质量数据进行后期微调以贴近人类偏好。

1、下载安装ollama

Ollama 是一个开源框架,专门设计用于在本地运行大型语言模型(LLMs

https://ollama.com/download

2、使用ollama 本地部署Qwen2.5大语言模型

Qwen

Qwen 和 Qwen2 是由阿里巴巴集团旗下的阿里云研发的一系列大型语言模型

ollama run qwen:0.5b

Qwen2

Qwen2 是阿里巴巴集团阿里云通义千问团队开发的新一代大型语言模型系列,是对之前 Qwen 系列的一个重大升级。Qwen2-72B-Instruct 在安全性方面与 GPT-4 相当。

ollama run qwen2:1.5b

Qwen2.5

Qwen是阿里巴巴集团Qwen团队研发的大语言模型和大型多模态模型系列。目前,大语言模型已升级至Qwen2.5版本。无论是语言模型还是多模态模型,均在大规模多语言和多模态数据上进行预训练,并通过高质量数据进行后期微调以贴近人类偏好。Qwen具备自然语言理解、文本生成、视觉理解、音频理解、工具使用、角色扮演、作为AI Agent进行互动等多种能力。

ollama run qwen2.5:0.5b

回到顶部