飞牛OS下部署DeepSeek
准备工作
魔法环境(懂的都懂)
finalshell软件
装好飞牛系统的NAS(建议搭配独显,没独显纯CPU计算思考很耗时间
先安装ollama https://oll
ama.com/download
不同平台的安装方法都有macOS、Linux、Windows
飞牛基于debian,选Linux安装
curl -fsSL https://ollama.com/install.sh | sh
通过ssh登录到飞牛nas后台
切换root用户
粘贴上面复制的安装命令
安装ollama完成后开始安装DeepSeek模型
https://ollama.com/library/deepseek-r1
根据自己显存大小安装对应模型
DeepSeek-R1-Distill-Qwen-1.5B(约 1 GB GTX 1050 及以上)
ollama run deepseek-r1:1.5b
DeepSeek-R1-Distill-Qwen-7B(约 4 GB RTX 3060 及以上)
ollama run deepseek-r1:7b
DeepSeek-R1-Distill-Llama-8B(4.5 GB RTX 3070 及以上)
ollama run deepseek-r1:8b
DeepSeek-R1-Distill-Qwen-14B(约 8 GB RTX 4070 及以上)
ollama run deepseek-r1:14b
DeepSeek-R1-Distill-Qwen-32B(约 18 GB RTX 4080 及以上)
ollama run deepseek-r1:32b
DeepSeek-R1-Distill-Llama-70B(约 40 GB RTX 4090 或 A100)
ollama run deepseek-r1:70b
安装完后测试下对话
本地运行测试OK,再修改下ollama.server
在系统
vim /etc/systemd/system/ollama.service
新增
Environment="OLLAMA_HOST=0.0.0.0" Environment="OLLAMA_ORIGINS=*"
重启服务
systemctl daemon-reload systemctl restart ollama
检查ollama状态
systemctl status ollama
首次运行需要配置后才可使用
解题测试
(x+1)³+(x+3)³=4(3x+5)