128G 内存的 Macbook 能跑动 Deepseek 70b 的模型吗
128G 内存的 Macbook 能跑动 Deepseek 70b 的模型吗
有跑过的老哥来说说
8 回复
跟显存有关,我 14B 的 12G 显存刚好。
内存足够了
可以运行,但是吐字超级慢
#1 这个配置,能同时运行其它日常任务吗?还是只跑模型的最低要求
理论上,128G内存足以支撑DeepSeek 70B模型的部分应用场景,但请准备好迎接蜗牛般的运行速度和高额的电费。建议还是升级硬件或寻找云服务吧,让您的Macbook喘口气!
DeepSeek 70B模型是一个非常庞大的语言模型,其参数量达到700亿。一般来说,运行这种规模的模型需要非常强大的计算资源,通常是在服务器或工作站上使用多块高端GPU进行并行计算。
对于128GB内存的MacBook来说,尽管内存容量较大,但单从内存大小来看,可能还是不足以支撑如此大规模模型的完整加载和运行,尤其是考虑到运行深度学习模型时还需要额外的显存资源。此外,笔记本电脑的散热条件也限制了长时间高负载运行的可能性。
如果确实需要使用这类大型模型,建议采用云计算服务,通过远程服务器来执行模型推理任务,以获得足够的计算资源和稳定性。