實驗中比輝達GPU快50倍!中國科學家造出首款毫秒級神經動力學晶片

想要讓一塊晶片,像大腦的神經網路一樣解構、重建、處理一個複雜的數學任務,至少需要十幾分鐘,而中國科學家的最新研究成果有望將這個時間縮短至毫秒級。

近日,北京大學深圳研究生院資訊工程學院院長楊玉超團隊聯合中國科學院上海微系統與資訊技術研究所研究員宋志棠團隊,首次提出了一種毫秒級神經動力學系統晶片,將神經動力學系統的單步運算時延壓縮至2.12毫秒。相關研究成果發表於《科學》。

這一成果不僅將原本需要離線運行的複雜建模方法推向毫秒級即時線上操作,也為下一代腦機介面、腦數字孿生、神經導航和神經退行性疾病智能診療提供了全新的硬體底座。

部分作者實驗室合影(從左到右:蔡磊、楊玉超、張騰)。研究團隊供圖


01

半個世紀的“資料搬運”困局


大腦是自然界最複雜的動力學系統之一。腦機介面要即時解析神經狀態,醫學影像要高精度重建腦皮層,都依賴對連續神經形態和動態過程的快速建模。

神經動力學系統指的是讓機器像大腦一樣,能夠即時建模和理解物理世界的計算框架。它將神經系統的表達能力和微分方程中的連續演化機制相結合,在物理世界建模、計算成像等領域應用前景廣闊。

然而,神經動力學系統自1980年首次提出以來,始終面臨一個核心挑戰:如何在保持高精度連續建模能力的同時,實現低延遲即時計算?

“主要原因是計算量太大了。”論文通訊作者楊玉超解釋道。傳統的計算框架(馮·諾依曼架構)中,儲存器和處理器是分開的,在計算過程中,資料就像“運快遞”一樣,要在儲存器和處理器之間來回搬運。

而基於傳統計算框架的神經動力學系統在計算過程中需要反覆進行積分運算、誤差控制,並根據誤差調整步長,步長太大就會導致結果不穩,步長太小則會導致算不完,需要不斷循環、判斷和迭代。同時,神經動力學系統在計算過程中產生的海量資料變數需要在儲存器與處理器之間頻繁搬運,進一步放大了延遲和能耗,成為即時高保真腦建模的核心瓶頸。


02

首次實現毫秒級運行


針對這一難題,研究團隊另闢蹊徑,從憶阻器器件的物理特性找到了突破口。

相變儲存器是憶阻器的一種。它有一種獨特的“電導漂移”現象——在特定的時間窗口內,其電導變化是可預測、可精準調控的。他們敏銳地抓住了這一物理特性,將其與神經動力學系統中的自適應積分過程建立對應關係,使器件本身的電導演化不再只是儲存狀態的變化,而成為可被精確利用的原位計算過程。

“通俗地講,原本需要複雜數位電路反覆執行的運算、快取訪問、資料搬運等工作,現在交給了器件自身的物理規律去‘跑’。”楊玉超說道。

基於這一發現,團隊提出細粒度可控電導演化機制,將有效積分步長直接編碼為相變儲存器的電導狀態,並利用器件自身物理演化完成自適應步長搜尋。原本需要由數位電路反覆計算、比較和判斷的步長選擇過程,被轉化為陣列中的原位物理計算過程。

這一設計突破了神經動力學系統近半個世紀以來精度與延遲相互制衡的核心瓶頸。通過“可控存內計算”機制,該成果從根本上減少了讀寫、乘法器、加法器、快取訪問和資料搬運需求,使神經動力學系統的關鍵計算過程被壓縮到毫秒級。

與此同時,團隊進一步利用相變儲存器的多級電導調控能力,建構高密度存內計算陣列,將神經網路權重儲存和矩陣運算統一對應到器件陣列中。自適應步長搜尋和神經網路矩陣運算這兩類核心計算被統一整合到相變憶阻器物理系統中,形成了從器件、演算法到架構協同設計的“可控存內計算”的新範式。

基於這一範式,團隊研製出了全球首個基於相變憶阻器的毫秒級神經動力學系統晶片。該晶片採用40奈米工藝製造,存內計算與步長漂移陣列總面積為0.28平方毫米,並配備程式設計脈衝生成電路、模數轉換器等外圍電路。晶片運行頻率為50兆赫茲,單步積分僅需9級流水,降低了延遲,最終實現2.12毫秒的神經動力學單次迭代計算時延,首次將神經動力學硬體系統執行階段間推進到毫秒級時代。

實驗結果顯示,在執行相同神經動力學運算時,該系統較當前最先進的專用加速器(ASIC)實現3.82至36.27倍速度提升。在腦皮層表面重建等高保真腦建模任務中,其較輝達GPU(圖形處理器)提速達50.38至478.18倍。


03

為腦疾病診療帶來新思路


研究團隊將該晶片用於大腦白質與腦灰質皮層表面的即時重建以及三維流形網格生成。結果表明,該系統能夠生成平滑、閉合、拓撲一致的腦皮層表面,精準刻畫複雜皮層褶皺結構,並有效抑制傳統神經網路方法中常見的自相交和非流形偽影。重建結果在對稱表面平均距離和豪斯多夫距離等指標上均顯示出優勢,滿足高保真腦結建構模要求。

“這一突破對腦機介面有重要啟示。”楊玉超表示,未來腦機介面不僅需要讀取神經訊號,更需要即時理解大腦狀態、預測神經動力學演化,並根據反饋進行閉環調控。高保真腦建模能夠以毫秒級速度運行,有望為腦機介面提供個體化、動態化、可解釋的腦狀態模型,使腦機系統從簡單訊號識別走向即時腦狀態建模與智能互動。

《科學》同期針對該工作發表的觀點評述文章指出,該平台能夠以毫秒級的延遲執行高精度計算,為臨床影像、機器人和具身智能領域的即時計算鋪平了道路。

在醫學場景中,該技術也有望支撐腦數字孿生、術中神經導航、腦皮層即時重建和神經退行性疾病輔助診斷。對於阿爾茨海默病、帕金森病等疾病而言,腦結構和腦功能的細微變化往往具有重要臨床價值。該研究可在低功耗硬體上快速完成高保真腦建模,為腦疾病早篩、病程監測和個性化干預提供新的技術路徑。 (中國科學報)