史上最快晶片Etched Sohu到來:一張能頂20張輝達H100


Etched.ai對輝達下了戰書

輝達最近真是一波未平一波又起,剛剛扭轉了三天股價下跌4300億美元的勢頭,又被行業初創公司給盯上了,可謂是打江山容易,守江山難。

6月25日,Etched.ai公司宣布已完成1.2億美元的融資,將向Nvidia最引以為傲的AI晶片設計發起挑戰。

在當今這個由數據驅動的時代,人工智慧(AI)晶片無疑地站在了科技革命的前沿。它是智慧演算法的心臟,為機器學習、影像辨識、自然語言處理等提供了強大的運算支援。

在這樣的大背景下,三位哈佛輟學生Robert WachenGavin UbertiChris Zhu,帶著對科技的熱愛和對創新的追求,投身於AI晶片產業,開啟了他們的創業之旅—— Etched


圖源:X(前Twitter)


其中,作為公司最早的兩名創辦人之一的Gavin Uberti,曾在OctoMLXnor.ai擔任要職,累積了豐富的行業知識和經驗。

而另一位華裔創辦人Chris Zhu,除了在哈佛大學擔任過電腦科學的教學研究員外,還有在亞馬遜等公司的實習經歷,這些經歷讓他對科技的商業應用有了深刻的理解。

豐富的科技履歷加上哈佛大學做背書的頂尖學習能力,讓他們有了更高的眼界和更敏銳的意識,在2022年三人就打賭Transformer大模型將統治世界。

因此,他們將所有的精力都用來打造世界上第一個針對Transformer(即ChatGPT中的T)的專用晶片—— Sohu

談到AI晶片,輝達的名字是繞不開的話題。憑藉其在圖形處理單元(GPU)領域的深厚積累,輝達在AI晶片市場佔據了舉足輕重的地位。

其產品不僅廣泛應用於遊戲和圖形設計,更在AI訓練和推理任務中展現出卓越的表現。

但正是這樣,Etched放出的狠話,“就Transformer而言,Sohu是有史以來最快的芯片,沒有任何芯片能與之匹敵”,才讓他們的這次融資備受矚目。

那麼市面上有著如此多的AI模型,包括DLRM、Stable Diffusion等老牌強者,為什麼Etched一定要做Transformer的專用晶片呢?

一張圖片告訴你答案:


圖源:Etched


在Transformer發力以前,許多公司都有著自己的大模型架構,而從GPT-2誕生開始一直到今天,所有大型科技公司(OpenAI、Google、亞馬遜、微軟、Facebook等)都開始使用Transformer模型。

Transformer由Google研究團隊於2017年提出,它的功能強大、實用且利潤豐厚。

市面上耳熟能詳的OpenAI 的GPT系列、Google的PaLM、Facebook的LLaMa,甚至Tesla的FSD都是Transformer架構。

這證明了Chris Zhu等人確實有著先見之明,也讓這場「賭局」的情況似乎變得明朗起來,因此他們對輝達發出的挑戰才會得到眾多業內人士的關注。

隨著Etched.ai技術的不斷成熟,它有望成為AI晶片產業的一股不可小覷的新興勢力,並且能為產業的發展注入了新的活力。

不過,Transformer並不是不可取代,目前依然還有SSM、RWKV等多個新架構正在被研究,Etched表示:「一旦Transformer被任何新架構取代,我們的Sohu晶片將毫無用處,但如果我們猜對了,Sohu將改變世界!

創辦人Uberti則更有信心:「發明了一種比 Transformer 更好的新架構成本非常高,並且這種情況十年內只會發生一兩次,就像半導體領域發生的那樣:光刻技術、掩模版/晶圓尺寸和光阻成分的變化確實在不斷優化,但變化速度非常緩慢


Sohu晶片強在那裡

要知道Etched的信心從何而來,他們一直宣傳的Sohu晶片就是關鍵。

在Etched看來,目前市場上流行的AI晶片,特別是輝達的GPU,它們的晶片單位面積的運算能力(TFLOPS) 幾乎保持不變。


圖源:Etched


也就是說,如今的AI顯示卡的能力提升,靠的是物理上的堆疊,例如NVIDIA的B200AMD的MI300Intel的Gaudi 3亞馬遜的Trainium2都是將兩塊晶片算作一張卡,來實現所謂的「雙倍」性能,總給人一種力大磚飛的感覺。

Etched.ai的Sohu晶片採用了尖端的4nm製程技術,這項製程使得晶片在單位面積上整合了更多的電晶體,從而大大提升了晶片的運算密度和能效比,顯著降低了能耗。

並且,Sohu晶片的核心優勢在於其專為Transformer模型優化的設計,在Transformer被用來處理的自然語言處理和圖像識別等方面擁有傳統GPU無法比擬的計算速度。

根據Etched官方發布的數據,一台8 x Sohu伺服器可以取代160 個H100 GPU,一台8 x Sohu 伺服器每秒可以處理超過500,000個Llama 70B代幣。


圖源:Etched


與市場上的傳統GPU相比,Sohu晶片展現了其高吞吐量和低延遲特性。這些特性使得Sohu在AI模型的推理和訓練任務中,擁有卓越的處理速度和能效。

這種性能上的優勢,使得Sohu晶片在未來AI晶片市場中能夠佔據一個獨特的位置,為那些尋求高性能、高效率AI解決方案的客戶提供新的選擇。

在這種背景下,Etched.ai被眾多投資人所看好。

Primary Venture PartnersPositive Sum Ventures等知名創投公司領投,公司自成立以來,已經完成了幾輪融資,這次1.2億美元的融資也吸引了包括Peter ThielGithub CEO Thomas Dohmke以及Coinbase前CTO Balaji Srinivasan在內的一系列知名天使投資者。

他們的加入進一步增強了Etched的信譽和市場影響力,也為公司的研發和市場推廣提供了足夠的資金支持。

值得一提的是,市場對Sohu晶片的預期非常高,目前Etched收到的預訂單的數額已經達到了數千萬美元,這對公司的創始人們來說無疑是一劑強心針。

Etched也在一篇文章中指出,目前AI晶片市場的需求已經達到前所未有的水平, Transformer的市場價值也從最開始不到5000萬美元,到如今已超過50億美元。

在創辦人的透露下,Etched.ai的市場策略非常明確,公司專注於為那些對AI運算效能有極高要求的客戶提供服務,包括大型科技公司、雲端運算服務供應商、AI研究實驗室以及需要進行大規模資料處理的企業。

Etched.ai將透過深入了解這些客戶的需求,不斷優化Sohu晶片的效能,確保其能夠滿足客戶在處理速度、能耗效率和成本效益方面的要求。

此外,公司也積極建構生態系統,與軟體開發商、雲端服務供應商和其他硬體製造商建立合作夥伴關係。

這種開放合作的策略,不僅能夠在未來加速Sohu晶片技術的推廣和應用,也能夠幫助Etched.ai更能理解市場動態,以快速回應客戶的需求。

在他們的預想下,Etched 預計將在2024 年第三季將其Sohu AI晶片推向市場初步計劃是向主要雲端供應商銷售

用Uberti的話來說:“我們把賭注押在了Transformer和Sohu上,這兩者都正在成為現實。”


Etched將成為世界上最大的公司之一

可以預見的是,Etched.ai的崛起的確會對輝達構成一定的挑戰。

長久以來,輝達憑藉其GPU在AI晶片市場中佔據主導地位,而這次Sohu晶片的高性能特性,正逐步吸引產業的目光。

Uberti更是大膽表示:“如果我們打賭真的成功,Etched 將成為世界上最大的公司之一”

不過他們也很清醒的知道,Sohu在大多數工作狀態下都無法擊敗GPU,因為它連Stable Diffusion都不支持,但在Transformer推理領域,Sohu將一舉清空市場,成為新一代獨屬於Transformer的ASIC王者。

從整個AI晶片市場來看, Etched.ai打造出的Sohu晶片,不僅是對輝達的挑戰,更是在整個AI晶片產業技術進步的縮影。

Sohu晶片的推出,將激發業界對更有效率AI運算解決方案的探索與創新。這種創新的推動力,自然也會加速AI晶片技術的發展。

正如當今半導體產業兩大龍頭企業(三星、台積電)已經開始下一輪技術內捲,這也意味著晶片產業的發展又一次開上了快車道。

展望未來,Etched.ai和Sohu晶片的發展前景充滿希望,但也伴隨著許多挑戰。

技術的不斷進步和市場需求的不斷變化,要求Etched.ai持續進行研發投入和創新。

同時,輝達等老牌強者可不是坐以待斃的風格,Etched.a i的專業晶片理念一旦被市場所認可,怎樣在擁有更大技術和供應鏈優勢的強力對手面前活下來,Etched.ai任重而道遠。

總的來看,Etched.ai和三位創辦人的故事,是對全球科技競爭中創業者精神的生動詮釋,也是一條充滿挑戰與機遇的旅程,其背後同樣代表著AI技術也在高速發展。

而隨著全球科技競爭日益激烈,他們的未來到底如何,是真的變成科技巨頭公司還是變成哈佛輟學生創業的新談資?或許要不了幾年就會有答案。(環球科技局)


最近長文
關於鉅亨號
「鉅亨號」是《Anue鉅亨網》以AI 大數據和推薦引擎所推出具影響力的自媒體社群平台,從投資理財為主題擴展到金融財經、房地產、汽車、數位虛擬貨幣、影音視頻及Podcast的數位生活圈。讀者可透過一面牆及個人化功能關注一天的大小事;對創作者而言更是一個直接能與1,000萬用戶互動的舞台。
最好用的投資平台,幫你找到最適合自己的標的
看真實的投資分享文章,跟隨達人腳步取得最佳利益
多元投資社群平台,掌握最新市場動態熱門議題