發生什麼事
OpenAI 執行長 Sam Altman 在 Podcast 節目《Cheeky Pint》(訪談科技業人士的節目)受訪。The Verge 報導,主持人問到供應鏈短缺,例如仍在持續的 RAM(電腦的記憶體)短缺時,Altman 表示把 RAM 放在個人電腦而不是資料中心是 “terrible”。BlockTempo 的中文報導則寫成「相當糟糕」。BlockTempo 指出,節目由 Stripe(網路支付公司)共同創辦人 John Collison 主持,10 月 29 日上架,31 日上午觀看約 29 萬次。 The Verge AI 動區動趨 BlockTempo
Altman 說,很多人想要 local inference(在自己的電腦上執行 AI 模型),並認為有了開源模型(可以在自己電腦上執行的模型),就不再需要資料中心裡的那些設備。他的說法是,從全球分配的角度,讓每個人都把全球有限的 DRAM(動態隨機存取記憶體,電腦常用的記憶體)放在自己的電腦裡,而且只有 5% 的時間在用,其實相當糟糕。Verge 引述的原話是 “being used five percent of the time”。他接著說,在這種供應吃緊的環境下,會希望在雲端做到最高使用率,而很多人的直覺剛好相反。 The Verge AI 動區動趨 BlockTempo
BlockTempo 的整理指出,Collison 問到記憶體已經這麼貴,照理會有新廠商進入市場,進展如何;Altman 回答「很糟」,並說市場那隻「看不見的手」這次失靈了。他提到過去 DRAM 廠投入 200 億美元資本支出(企業投入廠房設備的支出),大概只賺回 190 億美元。他說現在這些廠商每家一年可能賺進約 1,000 億美元的自由現金流(營運現金流扣掉資本支出後可自由運用的現金),並用「難以置信」形容。他認為記憶體廠記得過去蓋太多廠、差點破產的歷史,所以擴產態度保守。 原文
誰受影響
The Verge 指出,Samsung 與 SK Hynix(兩家記憶體廠商)和雲端服務業者,以及 OpenAI 的 Stargate(OpenAI 的資料中心專案)等專案簽有長期合約,預留了未來數年全球大部分的 RAM 產出。該報導也稱,這些業者願意投入的數十億美元晶片支出,是筆電、手機等產品目前變貴的原因。Verge 並提到,無論 Altman 指的是玩家的電腦,還是使用 Surface RTX Spark Dev Box(Verge 舉例的開發者設備)或新的觸控螢幕 MacBook Pro(Apple 的筆電)的開發者,結果都一樣。 The Verge AI
BlockTempo 指出,這段話在記憶體與顯卡漲價、缺貨的時間點傳開,引來電腦玩家反彈。該報導稱,AI 資料中心大量採購記憶體,推高 DRAM 與顯卡價格,消費者買電腦、升級記憶體的成本跟著墊高,並提到該站先前報導全球第三季電腦出貨少了 1,580 萬台。 動區動趨 BlockTempo
各方說法
BlockTempo 引述 Tom’s Hardware(硬體媒體)指出,OpenAI 雖然釋出部分開源模型,主要生意仍是在資料中心執行的閉源模型,Altman 這番話等於替公司的商業模式辯護;該文也提到,電腦愛好者擔心未來只能向雲端租用 AI 代理和電腦。TechNews 也寫道,OpenAI 的閉源模型服務通常需要使用者透過雲端存取,Altman 主張將更多 DRAM 集中配置於資料中心,也是為了 AI 業者的商業利益。 動區動趨 BlockTempo TechNews 科技新報
TechNews 另指出,Altman 的論點建立在資料中心持續擴建、AI 運算需求長期成長的前提上;個人電腦的 DRAM 也用於試算表、網頁瀏覽、遊戲及其他日常工作,不能單純以記憶體使用時間衡量其價值。BlockTempo 則提到,Reddit(網路論壇)的電腦玩家版 r/pcmasterrace 也出現以「The world according to Sam Altman」為題的貼文。 原文 動區動趨 BlockTempo


