馬斯克表示,計劃用十萬顆輝達旗艦晶片打造AI超級電腦。(網絡圖片)
科技媒體《The Information》報道,億萬富豪馬斯克(Elon Musk)表示,他旗下的人工智能(AI)新創公司xAI計劃建造一台超級電腦,將串聯十萬組輝達(Nvidia)的旗艦H100晶片,並稱之為「運算超級工廠」,希望明年秋季開始運作,以驅動下個版本的「Grok」AI聊天機器人。
馬斯克本月在一場說明會向投資人表示,他將親自負責讓這台超級電腦「準時交付」,在完成後,這台超級電腦串聯的輝達H100晶片數量,將「至少將是現存最大繪圖處理器(GPU)叢集的四倍大」,例如臉書母公司Meta用於訓練AI模型的叢集。
報道說,xAI可能與甲骨文(Oracle)合作開發這台超級電腦。《The Information》曾報道,xAI已和甲骨文主管商討可能以100億美元租下雲端伺服器好幾年。xAI已向甲骨文租賃配備約1.6萬組H100晶片的伺服器,成為甲骨文出租這類晶片的最大客戶。
仍落後OpenAI與微軟
馬斯克規劃中的超級電腦,可能需要數十億美元支出、及取得足夠運算能力的管道,卻能幫助才剛成立一年的xAI趕上其他對手。The Information稱,馬斯克計劃把xAI向投資人籌得的60億美元,多數用於取得輝達的先進晶片。
不過,即便依照馬斯克規劃的時程,xAI仍將落後對手。OpenAI與微軟到今年底或明年初時所擁有的GPU叢集規模,將和馬斯克擘劃的規模相當。OpenAI與微軟已在討論開發一台成本1,000億美元的超級電腦,內含上百萬組輝達GPU晶片。
馬斯克已表示,xAI正以兩萬組GPU晶片在訓練Grok 2.0。最近版本的Grok能辨識文件、圖表及真實世界的物體,馬斯克希望該模型的處理範圍能擴及音訊和影音。
輝達營收又看漲
輝達財務長Colette Kress 5月22日曾在財報電話會議說,Facebook母公司Meta Platforms宣布推出最新大型語言模型(LLM)「Lama 3」,使用了24,000顆H100 GPU,是第一季度期間的最大亮點。她提到,大型雲端運算提供商約貢獻輝達資料中心44至46%左右的營收。
輝達執行長黃仁勳5月22日也在電話會議表示,「這一季Hopper的需求仍在加溫⋯⋯預測需求仍會有段時間超出供給。」
xAI:探索宇宙的真實本性
馬斯克於去年7月中成立人工智能(AI)新創公司xAI,從美國各科技公司挖角工程師所組成的AI團隊,希望創造出ChatGPT的挑戰者。馬斯克說,成立xAI的理由是「要去了解宇宙的真實本性」。
xAI在官網中描述自己:「我們在AI領域致力並領導一些重大突破,成績包括:AlphaStar…GPT-3.5和GPT-4。」官網也提到,會與馬斯克旗下的推特、特斯拉等公司密切合作。
輝達H100 GPU是公司今年首季業績最大亮點。(Nvidia圖片)
Comentarios