ChatGPT之父:奧特曼在下「晶片」大棋


最近,Open AI計劃造芯鬧得沸沸揚揚。據消息,OpenAI CEO奧特曼已經接觸了英特爾、台積電想要合作成立新的晶片工廠。此外,奧特曼1月訪韓時,還將目光投向三星、SK,也是為了晶片。

事實上,去年十月份,奧特曼就表態想要自研晶片,到了現在奧特曼似乎還想進一步佈局造芯。從自研到自造,奧特曼晶片的「野心」藏不住了。


01 奧特曼的野心

自研晶片

自研晶片這件事,不只Open AI,很多大廠都嘗試過。只不過,Open AI的入局更晚一點。去年10月,外媒報導,OpenAI正在探索製造自己的人工智慧晶片。

並且,Open AI的網站開始招募硬體相關的人才,官方網站上有數個軟硬體協同設計的職位在招聘,同時在去年九月OpenAI還招募了人工智慧編譯器領域的著名牛人Andrew Tulloch加入,這似乎也在印證OpenAI自研晶片方面的投入。


在一場公開對話中,奧特曼表示OpenAI 不排除自研晶片這個選項。

奧特曼說到:「對於是否採用客製化硬體(晶片),我們還在評估中。我們正努力確定如何擴大規模以滿足世界的需求。雖然有可能不會研發晶片,但我們正在與做出卓越成果的伙伴保持良好合作。”

自造晶片

Open AI真正的野心不止於自研晶片。

現在,Open AI還想自造晶片。據報道,OpenAI執行長山姆·奧特曼(Sam Altman)正在策劃用數十億美元資金建立一所具備一定規模的半導體晶圓廠。這個項目的核心是建立“工廠網路”,以增加晶片產量。

為了這個計畫籌措資金,奧特曼在拉攏包括阿布達比和沙烏地阿拉伯在內的中東政府以及矽谷投資者。根據《金融時報》報道,奧特曼與中東投資者就晶片投資進行談判,為開發AI大模型所需的晶片及晶片製造廠提供資金。

談判者包括中東地區最富有的投資者,阿布達比最富有、最有影響力的人物之一——謝赫·塔努·本·扎耶德·阿勒納哈揚(Sheikh Tahnoon bin Zayed al -Nahyan)。他是阿聯酋總統謝赫穆罕默德·本·扎耶德·阿勒納哈揚(Sheikh Mohammed bin Zayed al-Nahyan)的兄弟,也是阿聯酋國家安全顧問,擔任阿布扎比投資局(ADIA)、阿布扎比第三大主權財富基金ADQ(阿布達比發展控股有限公司)的主席,是阿布達比人工智慧公司G42的董事長,而該公司也和微軟、OpenAI建立了合作關係。

奧特曼也在拉攏頂級晶片製造商,包括台積電、英特爾。此外,在最近1月的訪韓中,奧特曼與韓國晶片巨頭三星、SK探討合作。他們會議上討論的主要主題之一是高頻寬記憶體(HBM)晶片,這是用於處理大量資料的最現代的記憶體晶片,對AI處理器至關重要。

事實上,Sam Altman早在去年6月訪韓時就注意到了這兩家晶片巨頭,並表示願意投資韓國的AI新創公司。 Econotimes引用一位不願意透露姓名的官員消息稱,若合作達成,SK和三星可能會負責開發和生產記憶體晶片。

除了自己建廠外,奧特曼還早早投資了三家晶片新創企業,分別是Cerebras、Rain Neuromorphics和Atomic Semi。

Cerebras曾經推出超大晶片,Cerebras 的第二代AI晶片WSE-2電晶體數量達到2.6兆個,AI核心數量也達到了85萬個,多項指標打破世界紀錄。這家公司去年一口氣開源了7個GPT模型,參數量分別達到1.11億、2.56億、5.9億、13億、27億、67億和130億。

來源:Cerebras官網

另一家是Rain Neuromorphics,這家公司設計的晶片模擬大腦運作方式,屬於神經擬態晶片新創公司。 Rain AI的首款晶片基於RISC-V開源指令集架構,面向包括手機、無人機/機器人等設備,其亮點是既能訓練演算法,又能在部署時運作。儘管第一批硬體尚未向客戶交付,但OpenAI早已向Rain AI下了5,100萬美元的預定訂單。

此外,還有由晶片大神吉姆凱勒和「車庫造芯」紅人山姆澤洛夫共同創立的Atomic Semi。他們兩人共同創立的Atomic Semi,旨在讓晶片生產加工更加簡化,以期在數小時內生產出更廉價的晶片。


02 奧特曼的憂“芯”

現階段,奧特曼或許是這個世界上最渴望GPU 的人。

GPU對奧特曼一直是個沉重的負擔。早在2022 年,他就公開表達了對英偉達GPU 晶片短缺的不滿,聲稱這給公司帶來了巨大的壓力。

他在多次採訪中抱怨,「OpenAI 目前正受到GPU 算力的嚴重製約,導致許多短期計劃無法按時完成。」‍

在11月中,Open AI突然宣布,ChatGPT Plus帳號暫停註冊,原因無他:訪問量激增超出了伺服器的承受能力。


Altman在X上發文對此解釋:由於OpenAI開發日後ChatGPT使用量的激增超出了我們的承受能力,我們希望確保每個人都有良好的體驗。您仍然可以在app內註冊ChatGPT,以便在ChatGPT Plus 重新開放時收到通知。

當時的情況下普通的ChatGPT帳號還是可以註冊的,但要購買Plus服務時,就會被提示——已註冊等待名單,且附上了理由:由於需求量太大,我們暫時暫停了升級服務。

OpenAI公佈過一組數據,大模型訓練所需算力的成長速度維持在3~4個月/倍速度成長,遠超摩爾定律18~24個月/倍。強大的算力,意味著更快的資料處理速度、更強大的大模型服務能力。

在倫敦聽證會上,奧特曼稱“ 大部分問題都是GPU 短缺造成的”

首先OpenAI 很多客戶都在抱怨API 的可靠性和速度,在沒有足夠的GPU 的情況下,這是沒有辦法解決的。

第二,由於算力的緊缺,ChatGPT 更長的32k 上下文能力( 大約是24000 個字的上下文能力)也暫時無法推送給更廣的客戶。

第三,由於算力的緊缺,ChatGPT 的模型微調API 也做不到很好地支持,不能使用LoRa 等高效的微調方法。

第四,由於算力的緊缺,OpenAI 沒辦法賣給客戶更多的專有客製化模型,現在的解決方法是要求客戶預付高達10 萬美元的訂金。

基於以上種種問題,奧特曼和OpenAI 雖然是大模型浪潮的締造者,但他們卻不得不仰仗於英偉達的產能,英偉達在AI 領域佔有近80% 的市場份額,英偉達的產能一天上不來, OpenAI 就沒辦法盡快發展。

而Open AI面臨的難題不僅是GPU的短缺困境,還包括其高昂的價格。

無論是購買英偉達的GPU,或是使用基於GPU的雲端伺服器,都太貴了。去年,OpenAI去年錄得收入2,800萬美元,而整體虧損為5.4億美元;而OpenAI龐大的虧損背後,主要原因就是因為算力開銷。

根據美國金融公司Bernstein 的分析,如果ChatGPT 的訪問量達到谷歌搜尋十分之一的水平(而這也是OpenAI 未來的重要目標之一),OpenAI 初始需要的GPU 價值高達481 億美元,每年維持運行的晶片成本需要160 億美元。

這樣的開銷,可能是未來OpenAI 進一步規模化的一個主要瓶頸。畢竟即使強如微軟,也無法長期支撐如此龐大的投入。

對OpenAI而言,自己造晶片意味著安全和長期更可控的成本。


03 存在變數

先來看自研晶片的變數。其實目前自研晶片的大廠不在少數,例如Facebook的母公司,Meta 目前正開發一款新型晶片,希望能涵蓋所有AI 型;OpenAI 的主要支持者微軟也在開發客製化AI 晶片,並交由OpenAI進行測試。

不過,親自下場做晶片設計研發,有三大問題。

第一,對人才密度要求非常高。

第二,投入不小。百人高階晶片團隊以及動輒幾千萬的單次流片成本,無不是重投入,而且還不能指望一次流片成功。根據Semiengingeering數據顯示,開發28nm節點晶片的投入約為5,130萬美元,7nm節點晶片更是達到了2.97億美元。

第三,找一個合適的代工廠。 7nm以下的代工廠,只能找台積電和三星這兩家,但是如何讓台積電和三星積極配合專案進度,也考驗Open AI與上游Fab廠打交道的能力

那如果加上自己蓋工廠,變數會更大。

首先,還是錢的問題。我們提到,就算自研晶片的流片成本都很高,那麼直接蓋一個晶圓廠的成本只會高上加高。

晶圓廠建造耗資巨大。半導體公司英特爾曾表示,一座晶圓廠需要6,000名工人花3年時間建造,耗資100億美元。同時,生產先進計算晶片也既昂貴又複雜,這些晶片必須在「無塵室」中組裝,以防止微小顆粒甚至靜電損壞晶片。如果是AI晶片需要的3nm、2nm級節點的晶圓廠如今的投資成本也將高達300 億美元。

但身為新創公司,Open AI還是缺錢的。

去年4月,OpenAI完成最新一輪融資,估價270億到290億美元。微軟目前為OpenAI的最大股東,持有49%的股份。其他財務投資機構包括老虎環球基金、Sequoia、位於加州的Andreessen Horowitz、位於紐約的Thrive和K2 Global、Founders Fund等。

當時,奧特曼在回應估值時強調,目前OpenAI需要籌集大量資金,以尋找研發人才,以及快速推動創新研究。

「我們需要大量的資金來完成OpenAI 使命。在我們有限的時間裡,一定有比我們未來融資計劃更有趣的事情可以討論。當然,我們需要更多的錢,AI 未來的路徑尚不明確,但創新昂貴。在產品方面,我們正在尋找研發人才和快速推進創新,並且正努力推動AI 的各種應用並與客戶合作。」奧特曼表示。

到了12月,傳出消息新一輪的融資正在初步磋商,OpenAI的估值可能因這項融資而達到或超過1000億美元。

不過不管怎麼說,融的多、花的多。 Open AI花錢的地方多的是,如果加上自研晶片和蓋晶圓廠,那還是不夠塞牙縫。

其次,是需求的問題。 AI晶片的真正產能需求能有多大?肯定無法Cover一個晶圓廠的營運成本。

來看看目前的晶圓代工廠,台積電、三星、中芯國際,其中的代工業務都包含半導體產業鏈的各種產品,從40nm到3nm,就算這樣在半導體出現週期下行時,營業也有波動。因此,專門建造一個晶圓廠,進行AI晶片的製造,並不是一件現實的事。

回過頭來,AI時代的大幕拉開,OpenAI其實並沒有絕對優勢,如今已經是一場各顯神通的混戰。

從GPT-5到AI晶片廠,不知道Open AI能否撐起奧特曼的野心。(半導體產業縱橫)