台積電進軍矽光市場，制定12.8Tbps封裝互聯路線圖

光連接（尤其是矽光子學）預計將成為實現下一代資料中心連接的關鍵技術，特別是那些設計的HPC 應用程式。隨著跟上（並不斷擴展）系統效能所需的頻寬需求不斷增加，僅銅纜信令不足以跟上。為此，多家公司正在開發矽光子解決方案，其中包括台積電等晶圓廠供應商，台積電本週在其2024 年北美技術研討會上概述了其3D 光學引擎路線圖，並製定了為全球帶來高達12.8 Tbps 光纖連接的計劃。台積電製造的處理器。

台積電的緊湊型通用光子引擎(COUPE：Compact Universal Photonic Engine) 使用該公司的SoIC-X 封裝技術將電子集成電路堆疊在光子集成電路(EIC-on-PIC：electronics integrated circuit on photonic integrated circuit ) 上。該代工廠表示，使用其SoIC-X 可以實現晶片間接口的最低阻抗，從而實現最高的能源效率。 EIC 本身採用65 奈米級製程技術生產。

TSMC 的第一代3D 光學引擎（或COUPE）將整合到運行速度為1.6 Tbps 的OSFP 可插拔設備中。這個傳輸速率遠遠領先目前的銅乙太網路標準（最高可達800 Gbps），凸顯了光學互連對於密集網路運算群的直接頻寬優勢，更不用說預期的節能效果了。

展望未來，第二代COUPE 旨在作為與開關共同封裝的光學元件整合到CoWoS 封裝中，從而將光學互連帶到主機板層級。與第一個版本相比，此版本COUPE 將支援高達6.40 Tbps 的資料傳輸速率，並減少了延遲。

TSMC 的第三代COUPE（運行在CoWoS 內插器上的COUPE）預計將進一步改進，將傳輸速率提高到12.8 Tbps，同時使光纖連接更接近處理器本身。目前，COUPE-on-CoWoS正處於開發探路階段，台積電尚未設定目標日期。

最終，與許多業內同行不同的是，台積電迄今尚未參與矽光子市場，而將這一市場留給了GlobalFoundries 等公司。但憑藉3D光學引擎策略，該公司將進入這個重要市場，以彌補失去的時間。

台積電推出基於矽光子學的人工智慧晶片封裝平台

在2024 年IEEE 國際固態電路會議(ISSCC) 上發布的一項開創性聲明中，台積電（台灣積體電路製造公司）推出了基於矽光子的封裝，預計將徹底改變高效能運算和AI 晶片設計。

台積電的創新方法利用矽光子技術，有望解決互連和電源方面的關鍵挑戰，同時為人工智慧加速器和其他先進計算應用的前所未有的性能增強鋪平道路。

傳統上，人工智慧加速器對更高效能的需求需要整合更高頻寬記憶體(HBM) 和小晶片，從而導致中介層和晶圓基板上晶片配置的複雜性。

這些複雜性通常會導致互連和電源問題，從而限制晶片的可擴展性和效率。然而，台積電的新封裝技術透過採用矽光子學引入了範式轉變，其中光纖取代了傳統的I/O 進行資料傳輸。

這種創新方法不僅增強了互連性，而且減輕了與傳統中介層設計相關的挑戰。

想像一下，您正在組織一個大型會議，演講者來自不同領域。傳統上，每個揚聲器都有自己的麥克風和一組連接到主音響系統的電纜。

隨著添加更多揚聲器和麥克風，舞台上的電線變得雜亂，導致混亂和潛在的技術問題。這種設置代表了傳統晶片封裝的挑戰，在傳統晶片封裝中添加更多組件會導致複雜的互連問題。

想像一下，如果您不使用單獨的麥克風和電纜，而是實施依靠紅外線光束傳輸音訊訊號的尖端無線麥克風系統。每個揚聲器都可以在舞台上自由移動，無需束縛電纜，音質保持清脆清晰。此無線系統代表了台積電的新封裝技術，該技術利用矽光子學透過光纖而不是傳統的電氣路徑傳輸資料。

此外，將會議舞台視為多層平台，揚聲器相互堆疊，以在同一空間容納更多演示者。透過無線麥克風系統，您可以輕鬆堆疊揚聲器，而無需擔心電纜管理問題或訊號幹擾。同樣，台積電的封裝技術允許將異構晶片堆疊在一起，從而最大限度地提高空間效率，並將更多組件整合到單一晶片上。

此外，想像一下將電源管理系統直接整合到麥克風支架中，確保每個揚聲器都能獲得一致且可靠的電源，而無需外部電源。這種整合式電源管理系統反映了台積電在其封裝技術中包含整合穩壓器的方法，該方法優化了堆疊組件的電力傳輸，從而提高了效率和可靠性。

台積電封裝技術的主要特點之一是能夠在基礎晶片上堆疊異構晶片，從而實現前所未有的整合度和性能水平。

透過利用混合鍵合技術，台積電最大限度地提高了堆疊晶片的I/O 功能，進一步增強了連接性和數據吞吐量。

此外，這種方法允許將包括晶片和HBM 在內的各種組件無縫整合到中介層上，該中介層可能是本地矽中介層。

其結果是一個緊湊且高效的封裝解決方案，能夠滿足現代計算架構的需求。

為了解決供電這個關鍵問題，台積電的封裝平台整合了一個整合穩壓器，確保為堆疊組件提供穩定、高效的電力傳輸。

透過將電壓調節功能直接整合到封裝架構中，台積電無需外部電壓調節器，從而降低了複雜性並增強了整體系統的可靠性。

這種創新方法不僅提高了功效，還增強了晶片的可擴展性，從而可以整合日益複雜的運算架構。

也許台積電封裝技術最引人注目的方面是其透過3D 封裝實現萬億電晶體AI 晶片的潛力。

然而，現今最先進的晶片可容納多達1,000 億個電晶體，台積電的3D 封裝技術可望以指數方式提高此限制。

透過堆疊多層異構晶片並利用先進的封裝技術，台積電為人工智慧加速器和其他高效能運算應用提供前所未有的運算能力和效率水準。

台積電推出基於矽光子的封裝平台是高效能運算和人工智慧晶片設計進步的一個重要里程碑。

透過解決互連性、電源和可擴展性方面的關鍵挑戰，台積電的創新方法有望釋放現代運算架構的全部潛力。

台積電的封裝技術能夠實現萬億電晶體人工智慧晶片並促進各種組件的無縫集成，有望推動半導體產業的下一波創新浪潮，開創前所未有的性能和效率的新時代。

附：台積電北美高峰會演講PPT

參考連結：

https://www.anandtech.com/show/21373/tsmc-adds-silicon-photonics-coupe-roadmap-128tbps-on-package

(半導體產業觀察)