•
Sam Altman表示,GPT-4.5 是「龐大」且「昂貴」的。由於GPU不足,GPT-4.5模型只能分批向不同類型的ChatGPT使用者開放。
在人工智慧領域風頭正勁的OpenAI,如今卻陷入了硬體資源的「泥沼」。
Sam Altman表示,GPT-4.5 是「龐大」且「昂貴」的,而由於目前面臨的GPU短缺問題,需要增加"數萬個"GPU才能支援更多使用者訪問。
從本周四開始,GPT-4.5隻能先向ChatGPT Pro使用者開放,然後下周才能向ChatGPT Plus使用者群開放。 "我們業務成長很快,現在GPU庫存告罄,"Altman表示,"下周我們將增加數萬個GPU。"
其實,OpenAI 的「硬體之困」 早已露出苗頭。
去年10月份,在Reddit AMA 上,Sam Altman 承認計算能力不足是產品按時發貨的「攔路虎」。面對下一代AI 模式為何這麼久還沒推出的靈魂拷問,他直言:
“這些模型太複雜了,我們得在眾多好點子裡艱難抉擇,分配有限的計算資源。”
許多報導表明,OpenAI 一直在努力確保足夠的計算基礎設施來運行和訓練其生成模型。據路透社報導,OpenAI將專注於內部晶片設計。去年開始已經在與博通合作開發用於運行模型的AI 晶片,該晶片最早可能在2026 年問世。
在這場AI軍備競賽中,硬體成本正呈指數級飆升。而這次GPT-4.5的定價策略,本質上是將硬成本轉嫁給終端使用者。 (硬AI)