DeepSeek本地部署的操作步驟已經(jīng)整理好了,需要的網(wǎng)友可以來了解看看,希望能給各位提供幫助。
下載地址:https://ollama.com/
在Linux服務(wù)器上安裝一行命令就可以。如果是Windows需要下載安裝包。
命令:
curl -fsSL https://ollama.com/install.sh | sh
ollama安裝后默認(rèn)監(jiān)聽127.0.0.1,為了方便使用,要么修改監(jiān)聽地址,要么用SSH轉(zhuǎn)發(fā)。
修改地址后,它會自動在/etc/systemd/system/ollama.service.d/override.conf中存儲你添加或修改的配置。
在里面添加配置
[Service]Environment="OLLAMA_HOST=0.0.0.0:11434"
即可覆蓋主服務(wù)文件里對OLLAMA_HOST的設(shè)置,其他環(huán)境變量(如PATH等)則仍保留主服務(wù)文件里的值。
驗證先重啟以下
sudo systemctl daemon-reloadsudo systemctl restart ollama
然后執(zhí)行以下命令驗證
sudo systemctl show ollama | grep Environment
你會看到系統(tǒng)最終為該服務(wù)設(shè)置的所有環(huán)境變量。其中如果存在同名變量,就會以最后寫入(即override配置)的值為準(zhǔn)。
https://ollama.com/search?q=deepseek
根據(jù)顯存選擇合適的模型,右側(cè)有安裝命令,點擊按鈕復(fù)制。
Windows用戶在電腦本地打開cmd執(zhí)行命令
ollama run deepseek-r1:14b
開始下載,14b的模型大小是9GB
務(wù)必確保ollama的模型目錄/usr/share/ollama/.ollama/models有足夠大的空間
等進(jìn)度條走完,就可以在本地使用了。
關(guān)于我們 丨 聯(lián)系我們 丨 廣告合作 丨 誠聘英才 丨 網(wǎng)站地圖
Copyright © 2018 武漢門戶網(wǎng) www.jwzcgl.com鄂ICP備16007396號-6