飞牛OS下部署DeepSeek

bobby2025-04-28未分类55

准备工作
魔法环境(懂的都懂)
finalshell软件
装好飞牛系统的NAS(建议搭配独显,没独显纯CPU计算思考很耗时间

先安装ollama https://oll
ama.com/download
不同平台的安装方法都有macOS、Linux、Windows
飞牛基于debian,选Linux安装

curl -fsSL https://ollama.com/install.sh | sh

通过ssh登录到飞牛nas后台
切换root用户
粘贴上面复制的安装命令
安装ollama完成后开始安装DeepSeek模型
https://ollama.com/library/deepseek-r1
根据自己显存大小安装对应模型

DeepSeek-R1-Distill-Qwen-1.5B(约 1 GB GTX 1050 及以上)

ollama run deepseek-r1:1.5b

DeepSeek-R1-Distill-Qwen-7B(约 4 GB RTX 3060 及以上)

ollama run deepseek-r1:7b

DeepSeek-R1-Distill-Llama-8B(4.5 GB RTX 3070 及以上)

ollama run deepseek-r1:8b

DeepSeek-R1-Distill-Qwen-14B(约 8 GB RTX 4070 及以上)

ollama run deepseek-r1:14b

DeepSeek-R1-Distill-Qwen-32B(约 18 GB RTX 4080 及以上)

ollama run deepseek-r1:32b

DeepSeek-R1-Distill-Llama-70B(约 40 GB RTX 4090 或 A100)

ollama run deepseek-r1:70b

安装完后测试下对话
本地运行测试OK,再修改下ollama.server
在系统

vim /etc/systemd/system/ollama.service

新增

Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"

重启服务

systemctl daemon-reload
systemctl restart ollama

检查ollama状态

systemctl status ollama

首次运行需要配置后才可使用

解题测试
(x+1)³+(x+3)³=4(3x+5)


发表评论

访客

◎欢迎参与讨论,请在这里发表您的看法和观点。