又一AI晶片獨角獸誕生！00後創辦，融資15億元，成立不到2年

首批產品最早明年交付。

芯東西2月11日消息，據外媒今日報導，一家由00後創辦的神秘英國AI晶片創企Olix，已獲得2.2億美元（約合人民幣15億元）融資，估值超過10億美元（約合人民幣69億元），躋身獨角獸企業。

Olix（此前名為Flux Computing）成立於2024年3月，總部位於英國倫敦，由James Dacombe創辦，計畫開發比輝達GPU更快、更便宜的AI晶片。

James Dacombe今年25歲，同時也是英國腦監測創企CoMind的創始人兼CEO。CoMind是他18歲時創立的，並已融資1億美元（約合人民幣7億元）。

針對AI推理需求，Olix正在打造一種新型AI晶片，目標是高吞吐量和高互動性，以應對最苛刻的推理工作負載，並且不受當今AI晶片的架構和供應鏈限制。

Olix光學張量處理單元（OTPU）是一款採用新型儲存器和互連架構的光學數字處理器。

其團隊相信，將SRAM架構與光子學相結合，可以在每兆瓦吞吐量和總擁有成本方面超越基於HBM的架構，並且在互動性和延遲方面顯著優於純矽SRAM架構。

該公司已累計獲得2.5億美元（約合人民幣17億元）融資。據知情人士透露，Olix希望最早明年向客戶交付首批產品。這家初創公司拒絕就其融資事宜置評。

Vertex Ventures普通合夥人、前Facebook基礎設施高管Jonathan Heiliger認為，AI推理需要對晶片的製造方式進行徹底的重新思考，系統級架構的大規模重構極其困難，“James和他的團隊的執行速度比擁有十倍資源的公司還要快。”

目前英國晶片公司的融資規模遠遠落後於美國。另一家英國AI晶片創企Fractile昨日宣佈，計畫在未來三年投資1億英鎊（約合人民幣9億元），以擴大在其在英國本土的業務。

Olix在官網分享了其晶片設計思路：

現有GPU架構已接近物理極限，當前硬體從根本上來說無法同時為每個使用者提供快速推理。

這種權衡取捨是自TPUv2和V100以來所有主流加速器改採用的記憶體架構固有的——一個大型邏輯晶片放置在中介層上，旁邊是堆疊的HBM記憶體。

只有將大量使用者的資料批次處理，充分利用計算資源，並將模型權重通過HBM傳輸到大量輸出token的能耗分攤，才能實現每個XPU和每兆瓦的高吞吐量。

但大批次處理必然會增加每個使用者的延遲，降低互動性，迫使使用者做出艱難權衡。

推理性能受限於資料傳輸。因此，邏輯效率（FLOPs/W）和吞吐量（每個封裝的FLOP）的持續提升帶來的收益遞減。資料傳輸時間的縮短受到記憶體牆以及封裝互連邊界長度和封裝尺寸限制的制約。

雖然從HBM2到HBM4的過渡在能效和吞吐量密度方面都取得了顯著提升，但要再次實現如此巨大的改進需要近十年時間，並且需要更加複雜和昂貴的製造技術。

HBM性能提升帶來的能效提升有限，不可避免限制了每個token傳輸KV cache所需的 pJ/bit 能量，從而也限制了當前架構中token總能耗的下限。

過去十年，這種架構擴展提升了系統的整體性能，但進一步擴展無法同時實現高吞吐量和高互動性。從輝達Hopper到Rubin Ultra，封裝尺寸大約增長了4倍。再增長4倍將接近晶圓級封裝的極限。

更大的封裝可以縮短資料傳輸時間並提高互動性，但無法降低固定資料傳輸延遲。因此，阿姆達爾定律限制了未來通過進一步增大封裝尺寸來提升互動性的可能性。

資料從HBM經由中介層進入計算單元的物理路徑並未發生根本性改變，但隨著跨光罩高頻寬介面的引入，其複雜性卻日益增加。

因此，以每次快取命中或未命中時間衡量的資料傳輸延遲已接近或達到極限，並逐漸成為每個token延遲中越來越重要的組成部分。

雖然可以通過更大層的張量平行性進一步縮短每層的資料傳輸時間，但這會增加功耗和互連延遲。

此外，高吞吐量編碼方案也會引入編碼和解碼延遲，進一步提高每個token的最低延遲，並限制可實現的互動性。

如果可以通過規模、整合或執行來解決這一權衡問題，那麼當今計算生態系統的核心企業將是做這件事的主體。由於預付了數十億美元以確保獲得領先的邏輯節點、HBM和先進封裝能力，這類公司將在軟體、系統整合和供應鏈方面擁有巨大的護城河。

每一代都加倍強化這種方法。系統規模越來越大，整合度越來越高，目標也越來越遠大。絕對性能持續提升，但底層限制卻始終不變，因此仍然無法同時實現高互動性和高吞吐量。

能夠同時提供高吞吐量和高互動性的硬體，必須同時解決大規模資料傳輸效率和延遲問題。任何僅改善其中一個維度的方法都只是改變了權衡的本質。

Olix團隊認為，從供應鏈和製造角度來看，新的架構必須放棄高密度金屬薄膜（HBM）、先進封裝或其他任何受現有廠商供應鏈限制的技術。即便是最大的超大規模資料中心營運商都難以確保產能，初創公司根本無法與之競爭。

從相容性角度來看，硬體必須支援現有模型。它不應強制要求現有模型具備量子算術能力/物理理論能力，也不應要求採用新的熱力學神經擬態架構，即使這種架構承諾在理論上有所改進。

從設計角度來看，實現這一目標需要系統級思考，從光罩級和晶圓級設計轉向機架級計算和資料傳輸的協同設計，將其作為一個單一的統一系統。

這個領域不乏資金雄厚的挑戰者，但他們都陷入了同樣的兩種失敗模式。

有些晶片仍然採用邏輯晶片-中介層-HBM架構範式，並且在與新一代GPU/TPU競爭時，仍面臨同樣的互動性-吞吐量權衡，而這些GPU/TPU採用的是老一代低端HBM和邏輯晶片。

另一些則做得不夠。他們認識到需要一種新的範式，試圖重新塑造互動性的權衡取捨，但無法擺脫這種權衡取捨，仍然受到僅限矽基方法的侷限性的制約。

Olix團隊希望擺脫這些限制，創造前沿AI的下一個範式。 (芯東西)