追求更少的能耗，更高的性能。
AMD 執行長蘇姿丰出席了imec 的ITF World 2024 大會，並接受了imec 創新和行業領導力創新獎，加入了Gordon Moore、Morris Chang 和Bill Gates 等其他獲獎者的行列。在接受該獎項後，蘇姿丰開始了她的演講，介紹了AMD為實現公司的30x25目標改採取的步驟，該目標旨在到2025年將計算節點的能源效率提高30倍。蘇姿丰宣佈，AMD不僅有望實現這一目標，現在還看到了2026~2027年實現100倍以上改進的途徑。
由於ChatGPT 等生成式AI LLM 的爆炸性增長，對AI 電源使用的擔憂已成為人們關注的焦點，但AMD 早在2021 年就預見了AI 對於能耗的需求非常高。當時，AMD開始致力於提高資料中心運算節點能源效率的30x25目標，特別是將AI和HPC功耗視為一個迫在眉睫的問題。 AMD在2014年就設定了第一個能源目標，其首個25x20目標，即到2020年將消費類處理器的能源效率提高25倍。
這個問題現在已經擺在最前面了。隨著全球最大的公司爭奪人工智慧的霸主地位，生成式人工智慧正在推動資料中心的快速擴張，但公共電網並沒有為突然激增的耗電資料中心做好準備，這使得電力成為新的限制因素。由於電網容量、基礎設施和環境問題限制了可用於新資料中心和擴展資料中心的容量，因此資料中心的可用電量受到硬性限制。事實上，許多新的資料中心正在發電廠旁邊建造，以確保電力供應，而壓倒性的需求甚至重新點燃了對核子小型模組反應器（SMR）的推動，以供應各個資料中心。
隨著訓練模型所需的計算量的增加，這個問題只會加劇。蘇姿丰指出，第一個圖像和語音識別AI模型的規模過去每兩年翻一番，這與過去十年計算能力的進步速度基本一致。然而，生成式AI 模型的規模現在正以每年20 倍的速度成長，超過了計算和記憶進步的步伐。蘇姿丰表示，雖然當今最大的模型是在數以萬計的GPU 上訓練的，消耗高達數萬兆瓦時，但快速擴展的模型大小可能很快就需要多達數十萬個GPU 進行訓練，可能需要幾千兆瓦的功率來訓練單一模型。這顯然是站不住腳的。
AMD擁有多管齊下的提高能源效率的戰略，包括廣泛的方法，從其晶片架構和先進封裝策略擴展到AI特定的架構、系統和資料中心級調優以及軟體和硬體協同設計計畫。
當然，矽是基石。蘇姿丰指出，3nm全柵極（GAA）電晶體是AMD在晶片路線圖上的下一步，以提高電源效率和性能，同時繼續關注先進的封裝和互連，以實現更節能和更具成本效益的模組化設計。先進封裝在擴展設計方面發揮關鍵作用，以便在單個晶片封裝的限制下產生更大的馬力，AMD 採用2.5D 和3D 封裝的混合，以最大限度地提高每平方毫米資料中心晶片的每瓦計算量。
由於距離較長，在伺服器節點和伺服器機架之間傳輸資料會消耗額外的功率，因此最佳化資料局部性可以節省大量功耗。 AMD 的MI300X 是製造越來越大的晶片封裝所帶來效率的一個很好的例子——該晶片擁有1530 億個電晶體，分佈在12 個小晶片上，搭配24 個HBM3 晶片，提供192GB 的記憶體容量，所有這些都可以作為本地記憶體提供給GPU。與封裝內單元之間的功耗和效能最佳化的infinity Fabric 互連相結合，極高的計算和記憶體密度使更多資料靠近處理核心，從而減少了傳輸資料所需的能量。
蘇姿丰表示，雖然硬體最佳化很重要，但AMD在硬體和軟體協同最佳化方面的工作也取得了令人印象深刻的成果。使用低精度的數值格式可以提高電源效率和效能，因此在特定的硬體加速下進行設計對於持續擴展非常重要。正如您在上面的幻燈片中看到的，轉向FP4 等低精度格式會大大增加每焦耳消耗能量的FLOP——與FP32 相比，FP8 的能效提高了15 倍，而FP4 的功率效率提高了約30 倍。
精準度越低會導致精準度越低，但蘇姿丰強調，先進的量化技術有助於解決這個問題。事實上，即使是MXFP6 也可以產生與FP32 相似的精度，只有在MXFP4 上才能看到一些不同型號的下降，而其型號仍然同樣精確。提高低精度格式精度的工作仍在繼續，因此我們甚至可以看到MXFP4 在未來的更多型號中變得與FP32 一樣精確。
總體而言，蘇姿丰表示，AMD在每個節點的能源效率方面已經超過了行業的進步速度，因為該公司仍在努力實現其30倍的能源效率改進。蘇姿丰預計這種趨勢將繼續下去，她說：「根據我們今天所看到的，透過這種類型的創新，我們認為我們可以做得更好。到2026年和2027年，我們有望完成超過100倍的工作。
Imec的活動吸引了來自ASML、台積電、英特爾和SK海力士等多家半導體公司的演講者，許多演講者都贊同蘇姿丰的觀點，即資料中心功耗以及與之相關的環境後果正在成為首要問題。
蘇姿丰指出，繼續提高能源效率的步伐需要全行業的努力。 “我們有機會通過將許多不同的能力和許多不同的專業知識結合在一起來推動這個生態系統。我認為這是下一代創新的關鍵。”
「我們都是某些領域的專家，但當我們將流程人員、封裝人員、硬體設計師、架構師、軟體模型和系統設計師聚集在一起時，我們可以獲得真正彎曲未來創新曲線的整體設計能力，」 蘇姿丰說。 （半導體產業縱橫）