AI高密度運算推升散熱複雜度：熱管理由機櫃延伸至3DIC封裝
摘要
AI運算平台由GPU擴展至客製ASIC，高密度機櫃與3DIC封裝同步提高功耗與熱密度，使散熱問題由單一冷板逐步延伸至機櫃流體管理、系統驗證與封裝內熱阻。產業布局可觀察到晶片端的散熱設計持續客製，機櫃端則透過共同介面與驗證提高共用程度；當HBM與邏輯晶片進一步堆疊，熱管理也需要更早納入晶片與封裝設計。
一. 液冷規模部署後，競爭單位由冷卻元件擴大至機櫃級系統
二. 異質運算重劃液冷設計邊界，晶片端客製與機櫃端標準化並存
三. 3DIC提高封裝熱密度，散熱設計進一步深入晶片與封裝
四. 拓墣觀點
圖一 異質運算下液冷形成晶片端客製、機櫃端共用的分層架構
圖二 傳統冷板與SK hynix iHBM散熱結構比較
圖三 機櫃級液冷與3DIC冷卻比較
