作者:J1N,Techub News

前言

作者今天分享的Kuzco是一個專門服務LLM 大語言模型算力挖礦網絡,今年入選a16z 在紐約啟動的Crypto Startup Accelerator(CSX)秋季加速器計劃,被該計劃選中的項目會在8 週內獲得a16z 至少50 萬美元的投資,並將得到a16z 營運團隊的指導和支持。目前來說離該計畫結束約剩2 週。

Kuzco 專案還處於非常早期的階段,與io.net 同屬於GPU 算力網路領域,但走的是不同的發展方向。而io.net 因為有強大的資金支持和背景,已經比Kuzco 更早完成了對用戶的空投,並成功上線了幣安、Coinbase、Bybit 等主流加密貨幣交易所,獲得了更大的市場曝光。

筆者更是親身參與了io.net 的挖礦,老實說,整個過程就像是讓顯卡「躺著賺錢」,只需要把顯卡空掛著,它就自動給你生成收益,連電費都不怎麼花。每台礦機每天耗電才1.2 度,三個月總共才10.8 美元電費。再加上二手顯示卡的折舊費和上網工具的零頭,100 到200 美元的成本輕輕鬆鬆搞定。最後獲得4000 美元收益,怎麼看都覺得,這項目就像是左腳踩右腳螺旋上升的「空中樓閣」。

而後續代幣價格的下跌驗證了這一點。此外,筆者也編譯了一篇文章,標題是《價格暴跌70%:AI 算力租賃泡沫是如何破滅的? 》 ,這篇文章也進一步反映了AI 算力市場中的泡沫。無論是租賃市場的價格還是項目代幣的下跌,都是市場在修正這些項目的真實價值,這種價格回檔是符合市場規律的,說明未來可能會朝著更理性的方向發展。

Kuzco 在挖礦機制上與先前的熱門項目io.net 有顯著不同。 io.net 是「空中樓閣」,依靠顯示卡空掛就能輕鬆獲得數十倍的收益,背後支撐的實際價值並不明顯。而Kuzco 則更為腳踏實地,且得到了a16z 的支持。我花了幾週時間,認真測試了不同配置的礦機,包括單卡、多卡以及不同系統的建造。透過這些實際操作,我將為大家分享這些實操經驗,讓大家了解一個為用戶提供實際價值的挖礦項目,而不是僅靠泡沫支撐的虛假繁榮。

專門服務LLM 大語言模型算力挖礦網絡

Kuzco 是一個Solana 生態去中心化的GPU 網絡,旨在利用個人用戶的閒置GPU 資源,為大型語言模型(如Llama3、Mistral、Phi3)提供高效且廉價的算力服務。使用者可以透過與OpenAI 相容的API 來使用這些模型。 Kuzco 的分散式架構能夠整合閒置的算力資源,實現大型語言模型的運行,同時透過獎勵機制激勵提供算力的礦工。

專案營運狀況

a16z「門徒」Kuzco實操指南:如何有效率地進行AI算力挖礦?a16z「門徒」Kuzco實操指南:如何有效率地進行AI算力挖礦?

截至10 月21 日,Kuzco 專案有2,000 台線上GPU 礦機,最高時曾達到6,000 台。最常用的GPU 型號包括3090、3060 等。礦工目前獲得的是KZO Point 獎勵,但這些積分還不能變現,同時專案也還沒有公佈代幣經濟模型。筆者推測,隨著a16z 加速器計畫的推進,該計畫未來可能會有更多新的進展和更新發布。

如何部署

官方硬體需求

Kuzco 專案可在Mac、Windows 和Linux 作業系統上運行,支援多種不同的硬體配置。系統最低要求是16GB 的運作記憶體、30GB 的可用磁碟空間和至少10MB/s 的網路頻寬。 Kuzco 支援至少有8GB 記憶體的NVIDIA(N 卡)和AMD(A 卡)顯示卡,一般使用者的N 卡最低要求是GTX750,而專業的算力顯示卡大部分都支援。

不過,筆者不建議使用A 卡進行算力挖礦,因為AMD 顯示卡的相容性較差,尤其是在AI 任務中的表現不如N 卡。如果你一定要用A 卡,需要查看官方的相容性支援清單。在AI 領域,筆者必須說一句:AMD,NO!

a16z「門徒」Kuzco實操指南:如何有效率地進行AI算力挖礦?

筆者的五卡平台,主機板華子Z490

筆者測試了幾款硬體的挖礦效率,但因為網路波動,效率表現可能會有波動。

  • GTX1070:20 tok/s

  • RTX2060:30 tok/s

  • RTX2070S:40 tok/s

  • RTX3080: 80 tok/s

  • RTX4060Ti:50 tok/s

  • RTX4070S:70 tok/s

  • M2:20 tok/s

  • M3:30 tok/s

單位:Avager Tokens / Second (平均每秒完成的Tokens 計算量)

a16z「門徒」Kuzco實操指南:如何有效率地進行AI算力挖礦?

即時監測礦機運作狀況

部署方式

Kuzco 提供了客戶應用,使用者可以下載並使用它來啟動挖礦,但這種方式有時不穩定,可能會斷線,並且不會自動重新啟動。筆者建議更穩定的做法是使用Linux 系統或Windows 的WSL(Windows Subsystem for Linux)環境,透過命令列(CLI)或Docker 容器來啟動挖礦。如果需要使用多張顯示卡,可以在Linux 中透過Docker 容器指定某個GPU 來進行多卡挖礦。例如要指定GPU0:「docker run --rm --runtime=nvidia --gpus '"device=0"' -d kuzcoxyz/worker:latest --worker <workerid> --code <code>」,即可啟動多個GPU

多卡挖礦時需請注意以下硬體設備硬體層面:

電源:電源是關鍵,不能省錢。建議以「1 人民幣=1 瓦」的標準購買,並盡量使用金牌電源。挖礦時根據顯示卡的數量選擇1500W 到2000W 的電源,或使用多個電源,但多個電源需要額外的啟動線連接主機板才能正常供電。否則無法正常啟動。

a16z「門徒」Kuzco實操指南:如何有效率地進行AI算力挖礦?

功耗資訊

線材:在高功耗的環境下,電源線容易損壞,所以筆者建議使用品質較好的電源線。另外,不同品牌的模組電源所使用的線材介面是不一樣的,不能通用。如果使用了不同品牌的線材,可能會導致設備損壞或燒毀。因此,線材必須與電源的品牌保持一致,確保相容性。

a16z「門徒」Kuzco實操指南:如何有效率地進行AI算力挖礦?

電源線老化損壞

主機板:主機板的每個通道(不論x1、x8、x16)只能支援一張顯示卡。例如有幾個通道就能支援幾張顯示卡。以太坊挖礦時期流行的B85 主機板是不錯的選擇。

a16z「門徒」Kuzco實操指南:如何有效率地進行AI算力挖礦?

筆者參與以太坊挖礦時留下的B85 平台,已報廢

CPU :因為需要同時處理多個任務,CPU 的執行緒越多越好。使用Docker 啟動挖礦時,初期會佔用大量的CPU 資源。如果使用多張顯示卡,必須依序逐一啟動,否則系統可能會崩潰或卡住。

a16z「門徒」Kuzco實操指南:如何有效率地進行AI算力挖礦?

年輕人就要上i9,沒有必要為了面子上e5

顯示:一個Docker 程序大約佔用6 GB 記憶體(官方文檔寫8 GB,實際上6 GB 即可運行),如果顯示卡有12GB 顯示存儲,你可以在一張顯示卡上運行兩個Docker 進程。挖礦時,顯示卡的工作負載會佔用50% 到90%,且顯示卡的溫度應保持在85 度以內,才是合理且安全的。

PCIE 轉接線:建議使用x1 轉x16 的PCIE 轉接線,x1 插主機板,x16 插顯示卡。如果使用40 系列顯示卡,則需要使用x16 的延長線。

網路連線品質:網路連線品質會對挖礦效率產生很大影響。筆者測試發現,使用新加坡的網路節點接收到的算力任務比香港節點更多,也就是說,選擇更好的網路節點可以提高挖礦效率。

挖礦過程中如果發生故障狀況,首先要檢查主機板和軟體的運作狀況。如果問題出現在軟體層面,可以透過查看終端錯誤訊息來判斷,可能是記憶體錯誤,需要重新啟動電腦;或者是因為官方文件更新,本地礦機未及時更新程式碼導致,解決方法是更換節點或更新程式碼。

a16z「門徒」Kuzco實操指南:如何有效率地進行AI算力挖礦?

運行錯誤

在硬體層面,如果礦機無法開機,請先檢查主機板上的故障燈。以華碩主機板為例,最常遇到的是VGA 亮白燈,其表示顯示卡電源有問題,遇到這種情況可以嘗試重新插拔PCIE 和顯示卡電源線。不過,有時白燈可能會亮起但機器仍然正常運作。

總結

雖然筆者把io.net 稱作「空中樓閣」,意指它的市值被嚴重高估,但它確實憑藉10 億美元的估值成功融資了4,000 萬美元。然而,io.net 上線後,出現了許多仿盤,這些仿盤的產品和背後的資方都無法經受嚴格考證,說明io.net 的成功並不是每個專案都能輕易複製的。

基於這個觀察,筆者一直在尋找一個更有實際價值的挖礦計畫。最終,筆者發現了Kuzco。 Kuzco 首先得到了a16z 的孵化和支持,這增加了其的可信度和潛力。其次,Kuzco 的挖礦機制實實在透過GPU 提供算力服務。

更重要的是,從宏觀角度來看,Kuzco 所在的領域,大型語言模型(LLM)是當前大眾使用最廣泛的AI 產品,全球每天都有無數人在使用這些模型,而這些模型需要龐大的算力支持。筆者認為,為如此龐大的需求提供算力,不僅非常有意義,而且具有實際的商業價值,因此,Kuzco 是一個值得關注的項目。

再來就是參與GPU 算力網路的成本較低,特別是40 系列顯示卡在二手市場的價格穩定,折舊成本低,因此值得購買。不過,筆者提醒不要選擇租用顯示卡,因為租卡的費用比買二手顯示卡高很多。同時,Kuzco 的空投激勵不明確,如果貿然大規模租卡會有較高的風險。

而礦機本身有很高的實用價值,不僅能用來挖Kuzco ,還比直接投資高風險Altcoin 更穩定可靠。由於礦機有很好的擴展性,除了挖Kuzco 以外,還可以用來挖其他GPU 項目,或用它成為區塊鏈的節點驗證者,運行一些腳本和服務來增加更多的收益。這意味著即使不再挖Kuzco,礦機仍可繼續產生價值。

最後很多人問挖礦一天能獲得多少收益,這個問題沒有明確的答案,除了專案方,沒人能準確知道最終的收益是多少。挖礦的回報有很大的不確定性,可能會有很高的收益,也可能低於預期,所以無法事先確定具體能賺多少錢。