提到韓國的半導體產業,一個三星一個SK海力士,近幾十年都很難再找出另一家享譽國外的晶片產業的企業。尤其是在Fabless設計領域,韓國幾乎是毫無存在感。根據統計,全球前30名的Fabless公司大約佔了約90%的市場份額,而韓國Fabless企業合計市佔率僅約1%。
然而,ChatGPT的問世卻為韓國的Fabless產業打了一劑強心針。在全球半導體產業陷入AI晶片的激烈競爭之際,韓國AI晶片新創賽道也變得火熱起來,一群從大型科技公司或半導體公司出來的人才自立門戶,創立了許多AI晶片新創公司。同時,在投資遇冷的大環境下,韓國的AI晶片賽道卻是不一樣的景象。就連CHatGPT創辦人Sam Altman去年會見韓國總統時,也表示有興趣投資韓國新創公司。
放眼整個AI晶片新創市場,據不完全統計,人工智慧處理器領域約有190多家公司。較代表的有SambaNova、Cerebras Systems、Graphcore、Groq、Tenstorrent、Hailo、Mythic等等,這些AI晶片公司都難以撼動英偉達這樣的產業巨擘。韓國的AI新創公司未來又該如何呢?
在過去的幾年裡,韓國AI晶片新創公司如雨後春筍般迅速成長。它們以創新的技術、顛覆性的產品和強大的團隊吸引了投資者和市場的注意。
成立於2020年的Rebellions,該公司生產神經處理單元(NPU),名為ATOM晶片,瞄準生成式AI推理市場,直接叫板英偉達。據報道,ATOM AI晶片在Global Benchmark的表現比英偉達和高通等競爭對手高出1.4~3倍,引起了廣泛關注。
該公司執行長兼聯合創辦人Park Sung-hyun先前曾就職於三星的美國研究部門、英特爾和SpaceX等公司。 Rebellions也被視為該國在AI推理領域英偉達最有希望的競爭者。根據南華早報的報道,Rebellions在韓國LLM市場的推理任務份額已增長到30%,並在全球佔據至少3%到5%。
Rebellions獲得了韓國科技業幾大巨頭的支持,其中包括三星、KT 和Kakao。 Rebellions透過三星晶圓代工廠的"多項目晶圓服務"生產ATOM原型,採用三星5nm,據悉,該晶片還將採用三星的高階HBM3E 記憶體晶片。 ATOM將是韓國首款在量產層級支援語言模式的國產晶片。而韓國第二大電信業者和最大資料中心公司KT將成為Rebellions在ATOM量產後的第一個客戶,該公司執行長兼聯合創辦人Park Sung-hyun認為電信公司是AI晶片最理想的客戶。
Sapeon是韓國最大電信公司SK Telecom的子公司,於2022年4月從韓國頂級行動電信商SK Telecom Co.分拆出來,為資料中心設計AI晶片。 SAPEON宣稱,其X220是韓國首款用於資料中心的人工智慧處理器。去年Sapeon又推出了專為大型語言模型(LLM) 設計的X330晶片,採用台積電的7nm工藝,預計在今年上半年量產。
人工智慧淘金熱也催生了對DPU晶片的需求。 2022年,首爾國立大學電機與電腦工程教授Kim Jang-woo 在聘請了來自三星、Naver、英特爾和微軟的頂尖工程師後,成立了人工智慧晶片新創公司MangoBoost Inc.。 MangoBoost是一家資料處理單元(DPU)和AI伺服器基礎設施公司。 DPU也是AI市場蓬勃發展過程中的一個有利市場,AI的發展使得設備過載和資料瓶頸變得愈發嚴重,DPU在卸載、實現伺服器加速方面具有很大的潛力。憑藉著十多年來在大學實驗室取得的DPU 研究成果,該公司迅速獲得了伺服器和資料中心產業的認可。在去年11月的A輪投資中,MangoBoost籌集了5,500萬美元,他們計劃利用新獲得的資金來加速其多種DPU產品的開發。
HyperAccel成立於2023年1月,主要開發延遲處理單元(LPU),這是一款專門用於基於Transformer 的大語言模型(LLM) 的AI晶片。顧名思義,LPU是專門設計用於降低系統的延遲,該公司開發了一個模型並行技術,可將LLM高效分配到多個LPU,並開發了自己的網路技術,用於LPU之間的資料同步。
Mobilint是韓國首家開發智慧半導體邊緣型神經處理單元(NPU)的公司,成立於2019年4月。成立僅一年,Mobilint參加了全球AI半導體基準“MLPerf”,並在韓國取得了最好的成績,讓其技術被世界所知,並與三星電子、英特爾、谷歌、微軟、NVIDIA等合作,共同成為MLCommons(MLPerf操作社群)的創始成員。 2022年12月推出首個商用NPU“ARIES”,並開發了兩種搭載ARIES的產品“MLA100”和“MLX-A1”。今年1月,該公司獲得了200億韓元的B輪融資,此次投資將用於Mobilint人工智慧半導體ARIES的量產以及下一代晶片REGULUS的開發。 ARIES即將量產,也將成為Mobilint正式進軍全球AI半導體市場的籌碼。
DEEPX也是一家韓國NPU晶片新創公司,由執行長Lokwon Kim於2018年創立,他曾在Apple、Cisco Systems、IBM Thomas J. Watson 研究中心和Broadcom工作。該公司在5月初的C輪融資中剛籌集了8,000萬美元,較B輪1,500 萬美元的融資飆升了八倍多,目前估值達到5.29億美元。這些融資將用於該公司首款產品DX-V1、DX-V3、DX-M1和DX-H1的量產。不過目前,該新創公司尚未擁有客戶,但正在與現代起亞汽車機器人實驗室和韓國IT公司POSCO DX等100多家潛在客戶和策略合作夥伴合作,測試DEEPX的AI晶片功能。
FuriosaAI由來自三星、蘋果、高通、AMD、Google和亞馬遜的工程師於2017年創立,專注於生產AI推理加速器。截至目前,FuriosaAI已吸引超過1億美元的投資。
2021年該司發布了用於電腦視覺的第一代晶片WARBOY(三星14nm)發布,同年也成為首家在MLPerf推理方面超越Nvidia的AI晶片新創公司。他們的優勢在於軟硬體共同開發,該公司得到了重要客戶的支持,包括韓國最大的網路公司Naver,華碩伺服器也採用了該公司的WARBOY卡。 2024年,該公司第二代用於大語言模型推理晶片產品RNGD也將發布,它採用台積電5nm,嵌入了HBM3,性能是第一代AI晶片Warboy的八倍。
2022年7月,FuriosaAI任命英特爾前首席副總裁Bill Leszinske為高級顧問,Leszinske擁有30多年的產品規劃和行銷經驗,其中包括他在推動英特爾SSD 業務收入成長方面發揮的關鍵作用。 Leszinske離開英特爾後,也加入了AI晶片新創公司Groq。
可以看出,大部分的韓國的AI晶片新創公司都瞄準的是生成式AI這個市場。這些公司在不同的領域展開創新探索,從神經處理單元到延遲處理單元,從資料中心設計到智慧半導體邊緣型處理器,各自探索著AI晶片應用的新邊界,意圖在AI市場中佔有一席之地。
不得不說,這些AI晶片新創公司的成立有著很大的市場機會。當下正值AI發展高峰期,客戶不希望被一家AI晶片公司壟斷,傳統的晶片和新創公司都想來分一杯羹。德勤預測,2024年針對生成式人工智慧進行最佳化的專用晶片市場規模將超過500 億美元,佔當年所有人工智慧晶片銷售額的三分之二。德勤預測,2024 年人工智慧晶片銷售總額將佔預計全球晶片市場規模5,760億美元的11%。而到2027年,與其他支援AI的晶片一起,可能佔所有半導體銷售價值的一半。
AI發展方興未艾,目前所有訓練和幾乎所有生成式人工智慧推理都是使用相同的資料中心生成式人工智慧晶片完成的。但隨著時間的推移,生成式人工智慧推理的很大一部分可能將在邊緣處理器上完成。這些可能是較小的GPU或CPU或新的專用積體電路,可能來自現有的生成式AI 晶片公司,也可能來自新進入者,因此,這也為新創公司帶來發展機會。
政府的大力支持也是很重要的一方面,在AI、電氣化的發展大勢下,韓國政府開始重視Fabless企業,並努力發展本土產業鏈。在AI晶片層面,韓國的目標是到2030年,將韓國人工智慧晶片在國內資料中心的市場份額從幾乎為零提高到80%,實現本土化供應。
半導體是韓國出口導向經濟的重要支柱。 3月份,晶片出口達到21個月新高,達117億美元,佔全國出口總額的近五分之一。韓國的目標是超越記憶體晶片,在未來成為全球前三大AI國家之一,因此,韓國政府宣佈到2027年的未來三年將在人工智慧領域投資69.4億美元。此外,韓國政府表示還將設立一個1.4兆韓元(1 兆美元)的基金,來幫助國內人工智慧晶片製造商發展。可以看出,韓國在AI上下了大的賭注。
不僅是生成式AI領域,根據韓國媒體BusinessKorea報道稱,韓國政府正在積極推進新的研發項目,其中包括開發用於自動駕駛汽車的AI晶片,目標是超越美國半導體巨頭英偉達。由研究機構、大學等代表組成的「第二次策略規劃與投資委員會」批准了2025年62個新研發項目,包括超過11 個領域的旗艦項目和路線圖。韓國正在開發性能從數十到300 TOPS的自動駕駛晶片。
雖然韓國興起瞭如此多的AI晶片新創公司,但前路仍面臨著不少的挑戰:
首先,AI晶片研發需要大量的資金投入,這對新創公司來說是一個很大的挑戰。儘管這些AI晶片公司拿到了一些融資,但是晶片是個燒錢的行業,這點可以從目前業內幾家著名的AI晶片公司窺得一斑。
其次,AI或生成式AI晶片市場競爭激烈,產品研發出來到實際大規模商用還有很深的一條河。韓國AI晶片新創公司需要在技術、產品、成本等方面取得優勢才能在競爭中脫穎而出。
最後,人才是重中之重,缺人是半導體產業的通病。目前韓國的這幾家AI晶片新創公司無所不在廣攬人才。這些AI晶片新創公司的湧現,將有助於吸引韓國人才的回歸。儘管韓國是記憶體晶片大國,但其實該國擁有相當數量的人工智慧人才。根據史丹佛大學於4月15日發布的「2024年人工智慧指數」報告,韓國以每10萬人10.26項人工智慧相關專利的數量領先全球(圖2),同時以0.79%的人工智慧勞動力密度位居全球第三。儘管韓國在人工智慧領域具有這些強大的競爭力指標,但該國正面臨人才外流日益加劇的挑戰。根據2023年數據顯示,韓國每10萬人中AI人才的淨流出量為-0.30人(圖3),意味著離開該地區的AI人才數量多於進入該地區的AI人才數量。
韓國總統尹錫烈表示:「正如過去30 年我們用記憶體晶片統治世界一樣,未來30年我們將用AI 晶片書寫新的半導體神話。」韓國的野心能否實現不得而知,但一個事實是,這些AI新創晶片公司的崛起,為韓國半導體產業這汪水注入了新的活力。(半導體產業觀察)