#Etched.ai
哈佛輟學“三劍客”,做AI晶片,剛剛融了35億
專用晶片正在崛起。三位從哈佛輟學的00後,最近剛為自己的人工智慧晶片初創公司Etched.ai融了5億美元。這是人工智慧硬體領域規模最大的融資之一,此輪融資使Etched.ai的估值接近50億美元,總融資額也接近10億美元。Etched.ai的創始人Gavin Uberti,今年才24歲。他和另兩位創始人Chris Zhu、Robert Wachen一同從哈佛輟學後,致力於領導公司打造下一代人工智慧晶片,與晶片巨頭輝達不同的是,他們闖出了一條細分賽道—— 做專用於當前AI主流模型Transformer架構的ASIC晶片,從而超越通用GPU晶片。ASIC是為了某種特定的用途而定製設計的晶片,而不是像CPU(中央處理器)或GPU(圖形處理器)那樣可以運行各種不同類型的程序。算力市場的邏輯正在生變。Etched.ai何以能挑戰輝達?從哈佛輟學的創業者Etched.ai的成立,要從一位哈佛大學的輟學生Gavin Uberti說起。在創立Etched.ai之前,Gavin Uberti還是一位在哈佛大學攻讀電腦科學和數學雙碩士學位的學生。但是學校生活並不能讓他感到滿足,於是他選擇給自己一個間隔年(gap year),成為一名探索自己發展方向的數字游民。在這期間,Gavin為一家名為OctoML的初創企業建構編譯器,並為開源編譯器 Apache TVM編寫了矩陣乘法 (MATUL) 核心。此時,他的技術才能已鋒芒初現。值得一提的是,OctoML是華盛頓大學博士陳天奇參與創立的公司,旨在讓機器學習模型在任何硬體上都能高效運行。OctoML便是後來的OctoAI,在2024年被輝達以1.65億美元收購。陳天奇還是‌Apache TVM‌的主要建立者。隨後,Gavin繼續在課程管理和排課最佳化解決方案公司Coursedog、AI圖像識別初創公司Xnor.ai等處擔任軟體工程師,這些經歷讓他積累了AI硬體和軟體工程基礎。在業界遊歷一番後,Gavin做出了從哈佛退學的決定,同為哈佛數學和電腦科學系學生的Chris Zhu也選擇退學,兩人還拉上在哈佛大學修讀決策科學(Decision Science)Robert Wachen,三人合夥組隊——他們都想開發⼀款專門用於Transformer架構AI模型的ASIC晶片。從左到右:Robert Wachen、Gavin Uberti 和 Chris Zhu但是這不是一件容易的事,他們找了晶片行業的專家 Mark Ross,讓他幫忙看看自己手頭的技術。 Mark Ross曾擔任賽普拉斯半導體公司(Cypress Semiconductor)的首席技術官,同時主導過5款營收超過10億美元晶片的研發。Mark RossMark Ross告訴他們,他們的技術還行不通,不過同時說到“現在下結論還為時過早”,並讓Gavin和Chris回去撰寫了技術白皮書,重新設計晶片的初始架構和建構功能模擬模型。拿到Gavin、Chris等人熬了多個通宵後調整的技術結果,Mark Ross頗為震驚,沒想到這兩個人竟然把晶片的初始架構搭建出來了,而這確實可行。這時,Mark又對他倆提出一個難題——資金。他說,“這可是半導體啊!光是啟動就需要兩三百萬美元,而這之後只會需要更多的錢。你們以前從來沒造過晶片。”於是,三人哼哧哼哧地籌集了550萬美元,他們再次找到 Mark,這一次不僅僅是專業諮詢,而是想把他也拉入夥做團隊的首席硬體架構師。優秀的人做有前景的事,總是能吸引到更多的同行者。Mark Ross就這樣轉身加入了Etched.ai公司。一個好漢三個幫,2022年,Etched.ai 公司正式成立。除了聯合創始人Chris Zhu負責公司在專用人工智慧晶片領域的開拓性工作以外, Robert Wachen擔任Etched.ai 的聯合創始人兼首席營運官,為公司負責領導營運和硬體開發。他是推動 Etched.ai 業務規模化和建立硬體基礎設施的驅動力。之後的⼀切水到渠成。團隊還招來了半導體領域的專家,包括英特爾前副總裁、Auradine的聯合創始人、Cruise的首位晶片專家,以及來自Google、微軟、亞馬遜等科技巨頭的數十位專業人士。“我認為領導者具備技術能力非常重要,瞭解團隊的問題,理解他們做事的動機,是引進合適人才的必要條件。” Gavin作為公司的CEO,這樣談與同事們的合作。公司大大小小的事情雖然無法每件都親力親為,但是他喜歡和每位同事交流他們最近的進展,“只有這樣才能理解他們這樣做的原因”。挑戰巨頭輝達 螞蟻如何撼樹?Etched.ai公司正在做的事情,是打造一款在運行Transformer模型方面能夠超越通用GPU的AI 晶片,從而徹底革新人工智慧行業。在2022年初,他們敏銳地意識到,人工智慧的未來在於運行生成式人工智慧模型的專用晶片,與現有解決方案相比,這些專用晶片能夠提供更高的性能。雖然行業內許多初創公司和科技巨頭都在開發專門運行人工智慧模型的晶片,例如,Meta 有MTIA,亞馬遜有Graviton和Inferentia等等。而Etched.ai認為Transformer架構將主導人工智慧領域,其吞吐量會比通用GPU高出一個數量級。所以他們研發的ASIC 晶片只運行一種模型:Transformer模型。這意味著什麼?如果說通用晶片像是一個功能齊全的工具箱,在面對不同使用場景的時候,都能呼叫工具運行大多數傳統的AI模型,但是它整體上運行的效率就沒那麼高,因為其他工具在不使用的狀態下仍在耗能。而只專注於Transformer架構的晶片更像一把銳利的刀子,大大減少了晶片執行階段的冗餘,可以針對性地在transformer架構下提升晶片的運行效率。它不僅可以加快處理速度,還可以降低能耗。目前,最先進的AI模型都是transformer架構,比如ChatGPT、Sora、Gemini、Stable Diffusion 3和DALL-E等。Etched.ai的旗艦產品Sohu晶片已獲得台積電採用4nm工藝的量產授權。對於transformer架構而言,Sohu可以說是有史以來最快的晶片,其他同類產品暫時無法望其項背。Etched.ai Sohu晶片8xSohu伺服器的性能相當於160塊輝達H100 GPU,而且功耗更低。由於晶片僅支援Transformer模型,Sohu捨棄了圖形渲染單元和對CNN/RNN等傳統AI模型的支援,從而大幅簡化設計,提升硬體利用率至90%(通用GPU平均僅30%)。“在運行文字、圖像和視訊轉換器時,Sohu的速度比輝達的Blackwell GB200 GPU快一個數量級,價格也更低。對於需要專用晶片的企業領導者來說,Sohu將是一個更經濟實惠、更高效、更環保的選擇。” Etched.ai首席執行長Gavin Uberti曾這樣公開表示。只專注於Transformer架構的Sohu,也意味著如果以後Transformer不再流行,那麼Sohu的價值將大打折扣。但是投資人不僅看好ASIC晶片的這個發展模式,也願意為Etched 的 “All in or nothing(要麼做要麼滾)" 業務模式買單。Etched.ai 最近拿到的最新一輪A+輪融資5億美元,由Stripes Group領投,Ribbit Capital、Peter Thiel以及科技巨頭Palantir等跟投。此前,它分別在2023年完成種子輪融資,募得536萬美元,由著名風投機構Primary Venture Partners領投;隨後在2024年完成A輪融資,金額達1.2億美元,由Positive Sum和Primary Venture Partners共同領投,並吸引了Two Sigma、Peter Thiel等知名投資者參與。在整個融資過程中,Primary Venture Partners、Positive Sum、Stripes Group、Peter Thiel和Palantir等著名風投公司和科技投資者的持續參與,凸顯了市場對 Etched.ai技術前景的高度認可。“行動要快。速度是你相對於大型競爭對手的主要優勢之一。”OpenAI的首席執行長Sam Altman曾這樣說。而這也是連投了Etched.ai兩輪的Primary Venture Partners的合夥人Brian Shechter所認同的理念,”這種極快的執行速度讓我們對Etched.ai 晶片所代表的超級智能的未來充滿信心。”面對市值45000億美元的輝達,顯然Etched.ai的目標並非全面取代,而是聚焦於AI推理這一細分市場,專注把Transformer模型的運行效率做到極致,以此來搶先佔據細分賽道的優勢。專用晶片的崛起:從螞蟻到森林隨著AI模型趨向穩定,越來越多業內人士發現:既然99%的算力都在跑同一種架構,為什麼不乾脆做一款“只認Transformer”的ASIC呢,畢竟輝達的GPU太貴且太費電了。這正是Etched.ai、Groq以及國內寒武紀、燧原等公司試圖挑戰輝達的切入點。這些公司大致可以分為三大類:一是極致推理先鋒,與Etched.ai路徑最接近。這類公司的核心邏輯是,大模型架構已經收斂,不再需要通用的GPU,只需要最快的AI加速器。代表公司是美國的Etched.ai、Groq、d-Matrix等。二是巨型架構挑戰者,以規模換性能。這類公司不滿足於做小晶片,而是通過物理上的“巨大化”或“異構化”來解決大模型的算力需求。代表公司是美國的Cerebras Systems、加拿大的Tenstorrent等。三是國內ASIC勁旅,專注於國產替代與垂直深耕。比如寒武紀、後摩智能 (Houmo.ai)。在這場效率與成本的競賽中,這群初創公司正試圖通過極致的垂直最佳化,在輝達這棵兆等級的參天大樹旁,開闢出一片屬於專用晶片的新森林。而對於Etched.ai而言,其最終會成為市場的又一巨頭,還是走向被巨頭收購的一貫敘事,2026年的算力市場將給出最終答案。 (創業邦)