達摩院預測後摩爾時代的三駕馬車:芯粒、存算一體與CIPU


1965年的一天,美國仙童半導體公司一位叫戈登·摩爾的工程師應邀撰寫了一篇題為《讓集成電路填滿更多的元件》的文章,對集成電路未來的發展做出經濟性預測,並在《電子學》雜誌刊出。

這一預言之後逐漸被完善,並影響了此後60多年全球集成電路產業的發展,對整個信息技術產業都產生深刻影響。

用確定的方法對不確定的未來進行預測是人類最樸素的追求,卻也是一件充滿風險與挑戰的事情,那些擁有領先技術卻在時代發展洪流中破產倒下的公司,在復槃經驗教訓時八成不會少了這一條:對市場趨勢的誤判。

剛剛結束的2022已經足夠波譎雲詭,2023注定充滿更多不確定性,我們從未像今天這樣渴望精準把握科技發展趨勢,通過定性的預測抵禦未知的風險。

1月11日,阿里達摩院發布2023十大科技趨勢,多模態預測訓練大模型、Chiplet(芯粒)、存算一體、雲原生安全、軟硬融合雲計算體系架構、端網融合的可預期網絡、雙引擎智能決策、計算光學成像、大規模城市數字孿生、生成式AI位列其中。
其中Chiplet、存算一體以及軟硬融合雲計算體系架構恰好為處於後摩爾時代的算力產業提供了可供參考的發展方向。

01:Chiplet互聯標準逐漸統一,芯片研發流程正在重構

達摩院將Chiplet作為底層突破引起的“範式重置”列為2023十大科技趨勢之一。

報告指出,在後摩爾時代,Chiplet可能是突破現有困境最現實的技術路徑,能夠降低對先進工藝的依賴,實現與先進工藝接近的性能,重構芯片研發流程,從製造到封測,從EDA工具到IP設計,全方位影響芯片產業格局。

在芯片界,被譯為芯粒或小芯片的Chiplet早已不是新鮮陌生的名詞,可以將其理解為矽片級別的“解構-重構-復用”。

目前主流的系統級單芯片是將多個負責不同類型計算任務的計算單元,通過光刻的形式製造到同一塊晶圓上,Chiplet則是將傳統的SoC分解為不同的核心,選擇合適的工藝分開製造,再用2.5D、3D先進的封裝技術封裝,不需要全部都採用先進工藝在同一塊晶圓上進行一體化製造。

不難看出,Chiplet改變了芯片製造流程,芯粒之間的互聯尤其是2.5D、3D先進封裝帶來的電磁干擾、信號干擾、散熱等諸多複雜物理問題,也在芯片設計時就需要納入考慮,對EDA工具也提出新需求。

正是因為Chiplet技術能夠實現IP模塊復用,又能讓不同的核心採用最適合自己的工藝,因此成為許多芯片廠商在設計新產品時努力平衡經濟與性能的一種系統級的設計理念。

AMD在2019年發布的Ryzen3000系列中部署了基於小芯片技術的Zen2內核,憑藉高性價比獲得了消費者的認可,AMD在CES 2023展會上最新推出的下一代面向數據中心的APU產品Instinct MI300,也採用了Chiplet設計,擁有13個小芯片。英特爾同樣採用小芯片技術,其Ponte VecchioGPU集成了47個小芯片。而在2021年雲棲大會上,阿里平頭哥發布的倚天710同樣採用了這一技術,其用2.5D封裝技術集成了600億個晶體管,並實現了能效比的大幅提升。

最讓人印象深刻的,是蘋果去年3月發布會上將兩塊M1 Max芯片“黏合”而成的M1 Ultra,號稱性能超越英特爾頂級CPU i9 12900K和GPU性能天花板英偉達RTX3090,直接向業界展示了Chiplet如何實現降本增效。

Chiplet早已從實驗室走向產業,不過其此前各家分別自定義接口與協議,如同混亂的“春秋戰國”。缺少統一的標準,讓Chiplet真正的潛力難以釋放。

2022年3月份,英特爾、AMD、台積電等芯片公司聯合成立小芯片互連產業聯盟,並定制了UCIe 1.0標準,有望解決長期以來Chiplet發展的最大難題,即實現各家優質芯片模塊間的互連,標誌Chiplet時代真正到來。

半導體設備公司華封科技創始人王宏波曾這樣看待UCIe標準的意義:Chiplet時代,其實是將PC時代建立生態體系的邏輯縮小復刻到芯片中,Chiplet作為一個芯片組合,需要靠UCIe標準將不同公司的芯片設計方便的組合在一個芯片中,通過這種方式建立生態並推動整個行業向前發展。

達摩院2023十大科技趨勢項目組成員秦鍚告訴雷峰網:“同構和異構的芯粒將長期並存,所有工藝混合使用是所有廠家乃至整個產業界都應該注意的現象之一。未來企業需要根據自身需求對Chiplet技術做出選擇。”

02:存算一體引發計算架構變革,將在垂直領域規模化商用

馮·諾依曼架構存算分離的局限性,是學界和業界研究多年的命題。

90年代,學界提出名為“存算一體”的概念,希望通過計算單元與存儲單元的融合,實現數據存儲的同時直接進行計算,提高運算效率,作為打破馮式架構局限性的方法之一。

但由於當時受限於應用場景的匱乏,以及摩爾定律的經濟性依然適用,架構創新對產業發展的意義不大,存算一體在過去幾十年研究進展緩慢。

直到最近幾年人工智能的普及以及摩爾定律失效,存算一體才真正走進大眾視野。

過去的一年,1月份三星在頂級學術期刊Nature上發表了全球首個基於MRAM(磁性隨機存儲器)存內計算研究,2月份海力士也發表了基於GDDR接口的DRAM存內計算的最新研究成果,台積電在ISSCC上合作發表了六篇關於存內計算存儲器IP的論文。

不僅如此,諸如Mythic、Syntiant、知存科技、閃億半導體等初創公司紛紛湧入這一賽道,融資不斷,阿里巴巴達摩院也於2021年12月對外公佈了與產業鏈合作夥伴推出的全球首款基於DRAM的3D鍵合堆疊存算一體芯片,國內初創企業知存計算也於2022年3月份正式量產國際首顆存內計算SoC芯片。

存算一體也隨之形成三大主流分支:利用2.5D或3D先進封裝技術將計算邏輯芯片和存儲器封裝到一起的近存計算;基於傳統存儲介質,但存儲器內置獨立計算單元,可以直接完成計算的存內計算;以及基於新型非易失性存儲器技術做的新型存儲原件,通過更加創新的方式讓計算和存儲同時進行。

其中近存計算較為成熟,廣泛用於各類CPU和GPU上,存內計算投資熱度較高,新型存儲器依然處於探索期。

達摩院對此做出預測:在資本和產業雙輪驅動下,基於SRAM、NOR Flash 等成熟存儲器的存內計算將在垂直領域迎來規模化商用,小算力、低功耗場景有望優先迎來產品和生態的升級迭代,大算力通用計算場景或將進入技術產品化初期。

需要明確的是,存算一體依然是一種新興技術,測試標準、量產方法、測試方法、計算範式與現有的方式完全不同,距離成為主流技術還有很長的一段要走。

“顛覆了馮諾依曼架構的存內計算會落地,但可能也只是一種過渡性技術,對於產業來講,在關注這些能夠產業化大規模應用技術的同時,也要關注未來十年可能成為主流的技術趨勢。”秦鍚說到。

03:軟硬融合雲計算體系架構,雲上應用全面加速

過去十多年,雲計算發展經歷了分佈式架構技術和資源池化技術兩次革新。

第一階段的分佈式架構替代大型機,滿足當時企業所需算力需求;

第二階段的資源池化技術,計算、存儲、網絡資源可以分別按需擴容,突破了規模和穩定性的瓶頸,提供超大規模的雲計算服務。

不過隨著數據密集型計算場景的普及,用戶對低時延、高帶寬的需求越來越高,而傳統以CPU為中心的計算體系架構,不僅需要承擔計算任務,還要負責邏輯控制,導致計算和網絡傳輸時延大,且無法提供高帶寬,CIPU/IPU/DPU加速計算芯片應運而生,雲計算進入第三階段。

“DPU誕生的背景是帶寬與計算性能的增速失調。CPU的性能從5-10年前每年30%的增幅,到三年前大概只有每年不到3%的性能增幅。而網絡帶寬每年依舊還有35%左右的增長。處理性能和帶寬增速的比例從原來的大概1:1,變成了現在的1:10左右。”中科馭數CEO鄢貴海如此評價道。

從另一個角度,這其實也是摩爾定律放緩之下的CPU性能提升趨於天花板,無法滿足爆發式增長的算力需求產生的結果,軟硬融合的雲計算體系架構,是科技融合觸發的產業革新。

達摩院2023十大科技趨勢報告中指出,以CIPU為核心的雲計算體系架構,在工程上主要實現三個方面的突破:

一是底層硬件結構的融合帶來的全面硬件加速;二是在全鏈路實現硬件加速的技術上,創新地實現eRDMA,不但能大規模組網,還能讓用戶無需修改負載代碼無感加速,讓雲上高性能計算普惠服務化成為現實;三是CIPU和服務器的系統組合,既能一對多,也能多對一,高效滿足雲上不同計算場景下東西向流量配比的靈活度。

近幾年,無論是傳統芯片巨頭,還是雲服務提供商,還是初創公司,都在湧入這一賽道。英偉達早在2020年就推出了BlueField-2 DPU ,亞馬遜早已擁有基於自研DPU的系統,谷歌云也同英特爾合作IPU,百度、字節、騰訊雲紛紛加入自研DPU的隊伍,2022年6月,阿里雲也發布了自己的CIPU處理器,DPU初創公司們,一時間也成為投資人眼中的香餑餑。

從整個產業鏈條來看,雲計算向CIPU/IPU/DPU為中心的全新雲計算體系架構深度演進,是未來不可阻擋的科技趨勢。

“雲計算體系架構基礎技術的不斷革新,正在推動雲上基礎計算能力開始大幅超越線下服務器, 而企業只要上雲就能從雲計算資源或云服務中, 低成本獲得這些還在不斷擴大的系統紅利。”阿里雲研究院、阿里雲神龍計算平台負責人蔣林泉說到。

04:連續第五年發布科技趨勢報告,多個趨勢已被市場驗證

芯粒、存算一體和軟硬融合的雲計算體系架構,是達摩院對後摩爾時代的預測,這些預測的底層邏輯和背景並不僅僅是著眼於“摩爾定律的失效”,而是更宏大的工業革命的變遷與規律。

秦鍚表示,歷史上的三次工業革命都有十分明顯的上下半場,每半場的時間持續50年左右,上半場是各式各樣的技術湧現,下半場是技術與傳統行業的融合所產生的技術固化。

“例如雲計算是整個信息革命上半場產生的技術的集大成者,那麼下半場,就有可能由量子計算開啟。判斷一個技術短期內能不能應用非常困難,預測結果準確率超過一半已是罕見。”秦鍚說到。

今年已經是達摩院連續第五年預測十大科技趨勢,此前已經有不少趨勢被市場精準驗證,例如在達摩院這一次走訪對談的過程中,發現AI for Science已經被學術界專家廣泛接受,對大模型的判斷也被產業界所肯定。

這讓我們不由得期待,2023十大科技趨勢中所描繪的世界,又會在哪些領域命中未來。(雷峰網)