在舊Jetson Nano上安裝構(gòu)建Deepseek AI
在這個(gè)項(xiàng)目中,我們安裝了olama聊天應(yīng)用程序并下載了Deepseek開(kāi)放推理模型。
Jetson Nano
升級(jí)版的樹(shù)莓派電腦。我購(gòu)買(mǎi)這臺(tái)Jetson Nano是為了參加Nvidia在線培訓(xùn):Jetson Nano上的人工智能入門(mén)。我所在的工程學(xué)會(huì)接受這門(mén)課程為8小時(shí)的專業(yè)培訓(xùn)。
根據(jù)Nvidia的Get Started with Jetson Nano Developer Kit設(shè)置硬件。我的主板在J48電源頭上有一個(gè)黃色跳線,從筆記本電腦充電器上運(yùn)行。
無(wú)線,風(fēng)扇和攝像頭是基本的SBC單板計(jì)算機(jī)的選項(xiàng)。普通充電器僅限于速度較慢的2芯5w模式。
SD卡鏡像
從Nvidia開(kāi)發(fā)者網(wǎng)站下載壓縮的SD卡圖像。2021年的4.5.1圖仍然是最新的。
刻錄到32GB的SD卡
你可以用更大的硬盤(pán)。使用Balena蝕刻器將圖像刻錄到卡上。將SD卡插入PC上的閃讀器或使用適配器。
單擊Flash from file并導(dǎo)航到壓縮后的下載文件。蝕刻提取sd-blob-b01。自動(dòng)從壓縮文件中獲取Img。
選擇目標(biāo)驅(qū)動(dòng)器。重要!我們要清除一個(gè)存儲(chǔ)驅(qū)動(dòng)器。注意不要在PC上選擇驅(qū)動(dòng)器。
你確定嗎?
這很重要。如果你不小心,你可能會(huì)損壞你的個(gè)人電腦。檢查您要Flash的圖像和存儲(chǔ)設(shè)備!
閃光!
這需要一些時(shí)間。我選擇了32GB的SD卡,花了20分鐘。單擊跳過(guò)驗(yàn)證以節(jié)省幾分鐘。您現(xiàn)在可以彈出卡并將其插入Jetson Nano計(jì)算模塊。
插入SD卡
找到載體板上的SD插槽,插入SD卡,使用鑷子可能會(huì)有幫助。SD卡上的金屬引腳朝向單板。彈簧咔嗒作響。
和樹(shù)莓派一樣,這是你的操作系統(tǒng)和/home文件夾文件的驅(qū)動(dòng)器。
第一啟動(dòng)
像許多Linux發(fā)行版一樣,您將被要求準(zhǔn)備好用戶名和密碼。第一次啟動(dòng)將解壓映像,最終得到一個(gè)正常的桌面。您應(yīng)該探索默認(rèn)應(yīng)用程序。
磁盤(pán)空閑
打開(kāi)終端并輸入df以獲取空閑磁盤(pán)空間。我們?nèi)匀挥谐^(guò)一半的SD卡是免費(fèi)的,用于文件和應(yīng)用程序。
連接到網(wǎng)絡(luò),執(zhí)行sudo apt update。建議完全升級(jí),但不是必需的。在等待安裝輸入i時(shí),進(jìn)度可能會(huì)停止不止一次。
Curl開(kāi)發(fā)工具
輸入sudo apt install curl并接受所有提示。還會(huì)有額外的套餐。該工具允許您在終端窗口中運(yùn)行腳本。
安裝外殼
仔細(xì)輸入或復(fù)制粘貼以下文本:curl - fssl https://ollama.com/install.sh | sh。有趣的條形字符被稱為“管道”,通常是鍵盤(pán)上的shift- \反斜杠。
10到20分鐘的下載將增加1g的數(shù)據(jù)。觀看Install complete。
ollama run deepseek
另一個(gè)下載,使ollama應(yīng)用程序可以與deepseek數(shù)據(jù)庫(kù)一起工作。在撰寫(xiě)本文時(shí),ollama運(yùn)行deepseek- 1.1 .5b確實(shí)有效。注意點(diǎn)、破折號(hào)、斜線、大寫(xiě)和小數(shù)點(diǎn)。
進(jìn)度條顯示幾分鐘。超過(guò)另一個(gè)gb。我們從ollama返回>>>提示符。我建議輸入再見(jiàn),然后退出,重新開(kāi)始。
再次打開(kāi)ollama。應(yīng)該不需要更新,我們可以提問(wèn)。
如果是這樣,那我就沒(méi)什么好印象了。這項(xiàng)技術(shù)可能被夸大了。
/ ?幫助
有一個(gè)幫助功能/?/bye返回到應(yīng)用程序外部的shell。
ctrl - c ctrl - c
第一個(gè)control-c將返回到ollama提示符。第二個(gè)control-c退出應(yīng)用程序。
還有什么?
我們已經(jīng)通過(guò)安裝ollama啟用了服務(wù)器。這個(gè)命令告訴我們它是否在監(jiān)聽(tīng)。
安裝Linux應(yīng)用程序
這是一個(gè)由Nvidia管理的Ubuntu版本,而不是由Ubuntu公司管理的。apt包管理器與它們的存儲(chǔ)庫(kù)一起工作,您可以安裝Synaptic。它可以運(yùn)行電影和音樂(lè)播放器,作為一個(gè)文字處理器與LibreWrite。
安裝hardinfo系統(tǒng)分析器并仔細(xì)查看您的機(jī)器。
本文編譯自hackster.io





