1月27日消息,據外媒Tom’s Hardware 報導,近日曾獲得比爾·蓋茲旗下Gates Frontier Fund 投資的AI 晶片初創公司Neurophos公佈了其首款光學處理單元(OPU)產品,型號為“Tulkas T100 ”,號稱在FP4/INT4 等低精度AI計算負載下,性能可達到輝達最新Vera Rubin GPU的約10倍,並且可以維持與其相近功耗水平。Neurophos指出,該晶片採用現有的半導體製程技術,未來不排除交由台積電或英特爾代工生產。
近年來,隨著人工智慧(AI)技術的快速發展,對於算力的需求也是呈現爆炸式增長,雖然當前以輝達為代表的GPU晶片的性能提升也很快,但是這種提升更多是依賴於晶片面積、製程工藝和功率的提升,這也限制了其單位性能的增長,並且存在巨大的能源消耗和高昂的成本負擔。
專注於以光子計算為核心的AI 加速器研發的初創公司Neurophos認為,目前全球科技巨頭競相建造更多依賴於GPU的AI資料中心的趨勢並非解決之道。而Neurophos 提出的解決方案正是採用“光學處理單元”(OPU)來作為全新的 AI 加速晶片。
光子計算是一種被動運算,運算任務在光通過光子矩陣的過程中即可完成,它顛覆了傳統CMOS電子晶片的運算邏輯。光子晶片的性能提升與光子矩陣規模、主頻速率和波長數量等參數相關,而不依賴電晶體的密度及晶片製程的提升,並且擁有高通量、低延時、低功耗等特點,因此用光計算來代替部分當前的電計算就成為了突破現有瓶頸的有效途徑。
過去矽光子技術受限於光學元件尺寸過大,難以在晶片上實現足夠的計算密度,但是 Neurophos 則宣稱,其已成功將光學電晶體尺寸大幅縮小了 10,000 倍,使光子計算首次具備與數位CMOS 構架競爭的可行性。Neurophos 將這些調製器與記憶體計算技術相結合,通過融合記憶體和處理能力來克服傳統硬體瓶頸,從而加速AI核心的矩陣乘法運算,並減少資料傳輸,並可直接支援Triton、JAX 等主流AI 軟體工具。目前Neurophos已經在光計算領域積累了超過300項專利。
Neurophos最新推出的首款OPU晶片型號為“Tulkas T100”, 配備了 1000×1000 的光子計算矩陣,這大約是現代 GPU 中 256x256 矩陣的 15 倍,這使得晶片上的光學計算核心的密度達到了驚人的水平,可與傳統的矽晶片相媲美。巨大的光學計算矩陣和驚人的56GHz時脈頻率相結合,再加上其內部整合的200 MB 二級快取和768 GB HBM,使得單個光學“張量核心”能夠完成輝達晶片中數百個核心的工作量。其FP4/INT4算力可達0.47 ExaFLOPS,FP16/INT16算力為0.4 PFLOPS,峰值功率為2kW,平均功率為1kW,計算能效更是高達235 TOPS/W。
Neurophos還推出了 8× OPU的機架系統,將擁有3.07TB HBM,FP4/INT4算力可達2 ExaFLOPS,FP16/INT16算力為1.6 PFLOPS,性能將比 3000 磅重的 GPU 機架系統還要強,峰值功率也只有10KW,平均功率僅5KW。
Neurophos表示,世界需要太瓦級的算力,但是這所需要的能源供應遠超美國當前的生產能力。如果利用GPU建設資料中心來實現,這需要投資額高達20兆美元,而且還需要1000多座核電站來提供能源供應。如果使用OPU,達到同等的算力,不僅所需的OPU晶片數量可以減少100倍,所需的能源供應也可減少100倍,10座核電站就夠了。
目前,Neurophos正與挪威資料中心營運商Terakraft合作,計畫於2027年啟動其光學人工智慧加速器的實際應用試點項目。Neurophos表示,希望能在2028年初製造出首批完整的系統,並在同年晚些時候擴大生產規模。
資料顯示,Neurophos 成立於美國奧斯汀,是杜克大學和 Metacept Inc. 的衍生公司,團隊成員來自 輝達、AMD、蘋果、Meta、Google、Magic Leap、美光、高通、三星、Sapeon、Lumotive、Lightmatter和Luminous等公司,涵蓋了尖端數字和模擬晶片、增強現實、超材料、光互連等領域。
2023年12月,Neurophos 獲得了由蓋茲前沿基金領投、MetaV C Partners、Mana Ventures、AdAstral 等機構跟投的種子輪融資。這筆資金將用於開發一種專有的超表面,該超表面憑藉其先進的光學特性,可作為張量核心處理器。
今年1月22日,Neurophos還成功完成了1.1億美元的A輪融資,使其總融資額達到1.18億美元。該輪融資由比爾·蓋茲旗下Gates Frontier Fund領投,M12(微軟風險投資基金)、Carbon Direct Capital、沙烏地阿拉伯阿美風險投資公司、博世風險投資公司、Tectonic Ventures、Space Capital等機構跟投。 (芯智訊)