just drove 21 hours and listened to your interviews with @walker and @Peter McCormack absolutely inspiring stuff. thank you
Login to reply
Replies (2)
Felt the same way, I was so inspired I even sat down and wrote for a few hours
Nvidia 想讓世界相信AI 計算的需求是無限的。但實際上,AI 計算並沒有什麼特別之處。 AI真的很棒,發展的方向很多,但哪個方向值得開發呢?從基本原則來看,AI 計算的業務模式與比特幣挖礦並無太大差異,它們活在同個市場。"能源" 是這雙方共享的交叉點。
這兩者的商業模式都是購買大量的電力,然後以利潤出售計算能力。最終,競爭是用電的效率
比特幣礦工相比於 AI 計算有一個明顯的優勢,那就是 AI 計算隨著模型的不斷進化,複雜性一直提升,相對於的比特幣複雜性就是固定的。隨著AI成長,晶片的設計跟著增加功能,打出來的晶片只會越難做。良率就是這樣,TSMC再怎麼努力又不是魔法師。比特幣的晶片的複雜性可以說已經到終點了,已經選好晶片上的空間是怎麼理想的用(sha256-only)。
這複雜性也可以用其他的角度形容不只是晶片: 比特幣礦工只需關注冷卻 ASIC 和電源輸送元件,而 AI 計算需要GPU、記憶體、存儲磁盤/SSD、網路等各種組件,這些組件光在體積上的不同,也全面運行時有著不同的散熱需求。相對於,比特幣 ASIC 的熱管理相對簡單,保持所有設備的正常運行相對於容易。在購買大量電力並出售計算能力的業務中,變數越少越好。 這禮拜跑去看了Supermicro 的 Nvidia B200機台,被熱心介紹說那麼大台的機器可以吃掉8000W。 有那麼厲害嗎?8000w才兩台跟微波爐差不多大的S21而已呢。
誰該用電,是否AI計算的價值可超越比特幣?錢的價值也是一個計算。這算哲學了,分開討論吧。
比特幣礦工在地點選擇上也具有很大的靈活性,也可以隨時開關機,因為工作負載是均一的,這使得比特幣礦工的運營非常靈活。相對於 AI 工作負載是變動的,無法隨需關閉,靈活性較差。for example, 之前分享過了非洲小鎮用瀑布的水力挖礦的故事,Supermicro那台兩百多萬的AI伺服器機架放哪,你覺得那邊網路跟得上用的到嗎? 那邊的AI需求會是什麼?何必計算送去哪兒?
老實說,我對 Nvidia 的東西有點看不懂,看到每一家台灣 ODM 在 Computex 上都對 AI 計算百分之百投資,大家雞蛋放一個籃子裡,警覺心呢?媒體也對於黃仁勳的表現出極大的熱情有點誇張,這讓我個人感到有些擔憂。他不只過是一家公司的CEO怎麼崇拜成這樣?
just drove 21 hours and listened to your interviews with @walker and @Peter McCormack absolutely inspiring stuff. thank you
View quoted note →
Here is another episode with the great Erik Cason