任務(wù)一項(xiàng)目七

生成式人工AI

本地部署

DEEPSEEK本地部署時(shí)間目錄01DEEPSEEK本地部署方法一02DEEPSEEK本地部署方法二李強(qiáng)是一名對(duì)新技術(shù)充滿好奇的普通用戶，在日常學(xué)習(xí)或工作中，經(jīng)常需要處理大量文本，如撰寫(xiě)報(bào)告、分析資料等。你了解到DeepSeek可以在這些方面提供幫助，于是希望在自己的電腦上部署DeepSeek，方便隨時(shí)使用。李強(qiáng)擔(dān)心自己缺乏專業(yè)知識(shí)，無(wú)法完成部署任務(wù)。任務(wù)分析要完成DeepSeek的本地部署，需要按照一定的順序進(jìn)行操作。首先要明確所需的硬件和軟件條件，準(zhǔn)備好相應(yīng)資源。接著，下載DeepSeek及其依賴，并進(jìn)行安裝和配置。在這個(gè)過(guò)程中，可能會(huì)遇到各種問(wèn)題，需要掌握基本的問(wèn)題排查方法。部署完成后，還需要對(duì)DeepSeek進(jìn)行測(cè)試，確保其能正常工作，并進(jìn)行簡(jiǎn)單的優(yōu)化，提升使用體驗(yàn)。任務(wù)情境DeepSeek本地部署的概念與原理首先，用戶將DeepSeek的模型，如自然語(yǔ)言處理、圖像識(shí)別等模型部署在本地服務(wù)器或私有云環(huán)境中。數(shù)據(jù)的存儲(chǔ)、計(jì)算和傳輸都在內(nèi)部網(wǎng)絡(luò)完成，用戶對(duì)數(shù)據(jù)擁有完全的控制權(quán)，可自主決定數(shù)據(jù)的使用、管理和安全策略，避免數(shù)據(jù)外傳。其次，部署后的DeepSeek模型無(wú)需依賴互聯(lián)網(wǎng)即可運(yùn)行。在一些網(wǎng)絡(luò)穩(wěn)定性差或?qū)W(wǎng)絡(luò)依賴度低的場(chǎng)景中，如偏遠(yuǎn)地區(qū)的工業(yè)監(jiān)測(cè)、野外科研數(shù)據(jù)處理等，能確保業(yè)務(wù)的連續(xù)性和穩(wěn)定性。最后，可根據(jù)不同業(yè)務(wù)場(chǎng)景和需求，對(duì)模型參數(shù)進(jìn)行調(diào)整、優(yōu)化，或進(jìn)行二次開(kāi)發(fā)。任務(wù)實(shí)施01部署前的準(zhǔn)備7.1.2DeepSeek本地部署方法一硬件配置處理器：IntelCorei5/AMD同級(jí)，內(nèi)存：≥8GB，硬盤(pán)：≥20GB可用空間，顯卡：推薦NVIDIA（非必需）。軟件環(huán)境操作系統(tǒng)：Windows10+/Ubuntu18.04+，工具：Ollama、Python（方法二）。02下載OllamaOllama是一個(gè)輕量級(jí)的本地大模型運(yùn)行框架，旨在讓用戶能夠在本地設(shè)備上快速部署和運(yùn)行大語(yǔ)言模型（LLM）。它提供簡(jiǎn)潔的CLI（命令行接口）和API，使開(kāi)發(fā)者能夠輕松加載、管理和運(yùn)行如LLaMA、Mistral等主流開(kāi)源模型，而無(wú)需復(fù)雜的環(huán)境配置。Ollama具有高效的推理能力，并支持模型的自定義與微調(diào)，適用于離線推理、隱私保護(hù)和個(gè)性化AI應(yīng)用開(kāi)發(fā)。03下載Ollama下載Ollama安裝包，驗(yàn)證安裝：桌面或開(kāi)始菜單中出現(xiàn)Ollama圖標(biāo)。Ollama的下載04安裝Ollama(1)下載完成后，找到下載的安裝包文件（通常在“下載”文件夾中），雙擊運(yùn)行。(2)在彈出的安裝向?qū)Т翱谥?，按照提示點(diǎn)擊“下一步”，選擇安裝路徑等選項(xiàng)（默認(rèn)安裝在C盤(pán)即可）。(3)等待安裝完成，安裝完成后可在桌面或開(kāi)始菜單中找到Ollama圖標(biāo)。05DeepSeek-r1模型下載與運(yùn)行依據(jù)所部署的計(jì)算機(jī)配置選擇合適的模型版本，例如選擇14b版本，指令是：ollamarundeepseek-r1:14b。在Ollama官網(wǎng)選擇“DeepSeek-r1”模型版本（如14b/32b），選擇32b，則如圖所示。模型選擇05DeepSeek-r1模型下載與運(yùn)行（2）打開(kāi)命令行窗口。在Windows系統(tǒng)中，按下“Win+R”組合鍵，輸入“cmd”，然后點(diǎn)擊“確定”打開(kāi)命令提示符窗口；在Linux系統(tǒng)中，打開(kāi)“終端”應(yīng)用程序。（3）將復(fù)制的指令粘貼到命令行窗口中，按下回車鍵。（4）部署成功，可以在命令行窗口中直接與模型進(jìn)行對(duì)話，如圖所示。06

可視化工具安裝

如果你希望有一個(gè)更直觀的交互界面，可以安裝ChatboxAI可視化工具。（1）下載打開(kāi)瀏覽器，訪問(wèn)ChatboxAI官網(wǎng)，如圖7-7所示。在官網(wǎng)頁(yè)面中，找到“免費(fèi)下載”按鈕，點(diǎn)擊開(kāi)始下載。06

可視化工具安裝

（2）安裝①下載完成后，找到下載的安裝包文件，雙擊運(yùn)行。②選擇“僅為我安裝”，然后點(diǎn)擊“下一步”。③選擇安裝路徑（建議預(yù)留10GB空間），點(diǎn)擊“下一步”至安裝完成。④安裝完成后，ChatboxAI會(huì)自動(dòng)運(yùn)行，如圖所示。選擇“使用本地模型”。06

可視化工具安裝

（2）安裝⑤選擇Ollama，即可通過(guò)ChatboxAI進(jìn)行可視化操作，與DeepSeek-r1模型進(jìn)行交互。更換網(wǎng)絡(luò)環(huán)境下載緩慢仔細(xì)檢查指令是否復(fù)制完整、準(zhǔn)確，同時(shí)確認(rèn)命令行窗口是否以管理員身份運(yùn)行命令行錯(cuò)誤檢查Ollama是否已經(jīng)正常運(yùn)行，以及在ChatboxAI中選擇的本地模型選項(xiàng)是否正確可視化工具無(wú)法連接常見(jiàn)問(wèn)題解決

意義在本地環(huán)境中安裝深度學(xué)習(xí)框架，如PyTorch、TensorFlow等，這些框架提供了豐富的工具和接口，用于模型的加載、訓(xùn)練和推理。還需安裝DeepSeek模型文件以及相關(guān)的依賴庫(kù)和軟件包，以確保模型能在本地環(huán)境中正常運(yùn)行。通過(guò)容器化技術(shù)，如Docker、Kubernetes，將模型及其依賴環(huán)境封裝成一個(gè)獨(dú)立的容器，實(shí)現(xiàn)環(huán)境的隔離和可移植性，便于部署和管理。如采用InfiniBand網(wǎng)絡(luò)技術(shù)，實(shí)現(xiàn)GPU之間、服務(wù)器之間的高速數(shù)據(jù)傳輸，提高模型訓(xùn)練和推理的效率。對(duì)于有數(shù)據(jù)安全需求的場(chǎng)景，會(huì)通過(guò)內(nèi)網(wǎng)隔離、VPN隧道、防火墻等技術(shù)，保障數(shù)據(jù)在本地網(wǎng)絡(luò)中的安全傳輸，防止數(shù)據(jù)泄露和外部攻擊。7.1.3DeepSeek本地部署方法二01

部署前的準(zhǔn)備①安裝操作系統(tǒng)，推薦使用Windows10及以上版本或Ubuntu18.04及以上版本的Linux系統(tǒng)。②安裝Python環(huán)境，建議安裝Python3.8及以上版本。你可以通過(guò)Python官方網(wǎng)站下載對(duì)應(yīng)系統(tǒng)的安裝包進(jìn)行安裝,如圖所示。安裝過(guò)程中記得勾選“AddPythontoPATH”選項(xiàng)，方便后續(xù)使用。7.1.3DeepSeek本地部署方法二02

安裝Git工具用于獲取DeepSeek的代碼。在Windows系統(tǒng)中，可以從Git官方網(wǎng)站下載安裝程序進(jìn)行安裝，如圖7-11所示；在Linux系統(tǒng)中，可通過(guò)包管理器（如apt-get、yum等）進(jìn)行安裝，例如在Ubuntu系統(tǒng)中執(zhí)行“sudoapt-getinstallgit”命令進(jìn)行安裝。7.1.3DeepSeek本地部署方法二03

下載DeepSeek相關(guān)文件訪問(wèn)DeepSeek的官方網(wǎng)站。找到DeepSeek的代碼倉(cāng)庫(kù)，點(diǎn)擊“Code”按鈕，復(fù)制倉(cāng)庫(kù)的URL鏈接。打開(kāi)命令提示符（在Windows系統(tǒng)中）或終端（在Linux系統(tǒng)中），執(zhí)行以下命令將代碼克隆到本地：ne<倉(cāng)庫(kù)Ugit--versionRL鏈接>README_cn.mdgitclone<README_cn.md>7.1.3DeepSeek本地部署方法二04

安裝依賴（1）進(jìn)入項(xiàng)目目錄使用“cd”命令進(jìn)入剛剛克隆的DeepSeek項(xiàng)目目錄。例如，如果克隆的項(xiàng)目文件夾名為“deepseek”，則執(zhí)行“cddeepseek”命令。（2）安裝依賴庫(kù)DeepSeek運(yùn)行需要一些依賴庫(kù)的支持。在項(xiàng)目目錄下，找到“requirements.txt”文件，該文件列出了所需的依賴庫(kù)。在命令提示符或終端中執(zhí)行以下命令安裝依賴庫(kù)：bashpipinstall-rrequirements.txt7.1.3DeepSeek本地部署方法二04

DeepSeek配置（1）創(chuàng)建配置文件在DeepSeek項(xiàng)目目錄中，找到配置文件模板（如果有），通常命名為“config.example.yaml”或類似名稱。復(fù)制該文件，并將新文件命名為“config.yaml”。（2）編輯配置文件使用文本編輯器（如Notepad++、SublimeText等）打開(kāi)“config.yaml”文件。在文件中，你可以根據(jù)自己的需求進(jìn)行一些基本配置，如設(shè)置語(yǔ)言偏好、緩存路徑等。對(duì)于初學(xué)者，保持默認(rèn)配置通常也能正常使用。7.1.3DeepSeek本地部署方法二05

DeepSeek啟動(dòng)（1）啟動(dòng)服務(wù)在命令提示符或終端中，確保當(dāng)前目錄為DeepSeek項(xiàng)目目錄，執(zhí)行啟動(dòng)命令。（2）訪問(wèn)DeepSeekDeepSeek啟動(dòng)成功后，會(huì)在命令行中顯示一個(gè)訪問(wèn)地址，通常是“http://localhost:端口號(hào)”的形式。7.1.3DeepSeek本地部署方法二06

測(cè)試與優(yōu)化（1）功能測(cè)試觀察DeepSeek的響應(yīng)結(jié)果，檢查是否符合預(yù)期。如果出現(xiàn)異常結(jié)果，如生成的內(nèi)容錯(cuò)誤或無(wú)法生成內(nèi)容，可能是配置問(wèn)題或依賴庫(kù)版本不兼容。你可以再次檢查配置文件，或嘗試更新依賴庫(kù)版本（使用“pipinstall--upgrade庫(kù)名”命令更新指定的庫(kù)）。（2）性能優(yōu)化如果在使用過(guò)程中發(fā)現(xiàn)DeepSeek運(yùn)行速度較慢，可以進(jìn)行一些簡(jiǎn)單的優(yōu)化。例如，清理緩存文件，在“config.yaml”文件中找到緩存路徑配置項(xiàng)，手動(dòng)刪除該路徑下的緩存文件。另外，可以根據(jù)電腦的硬件資源情況，調(diào)整配置文件中的一些參數(shù)。7.1.3DeepSeek本地部署方法二重點(diǎn)掌握了DeepSeek本地部署的步驟。關(guān)鍵在于嚴(yán)格按照步驟操作，遇到問(wèn)題時(shí)能夠通過(guò)查看錯(cuò)誤提示、搜索解決方案等方式進(jìn)行處理。常見(jiàn)的問(wèn)題有依賴安裝失敗、端口被占用、功能測(cè)試異常等。在部署和使用DeepSeek時(shí)，要注意保持網(wǎng)絡(luò)穩(wěn)定，避免因網(wǎng)絡(luò)問(wèn)題導(dǎo)致下載或運(yùn)行異常。同時(shí)，對(duì)于配置文件的修改要謹(jǐn)慎，備份好原始配置