ByteBridge

直達晶片冷卻技術解析:AI 數據中心液冷技術的未來發展方向

Curtis Breville•2025-02-20
直達晶片冷卻技術解析:AI 數據中心液冷技術的未來發展方向

擁有34年IT產業經驗,其中25年專注於資料中心基礎設施,柯蒂斯(Curtis)在液冷技術、資料儲存、系統整合以及AI就緒環境等領域具備深厚專業知識。他在產業內的豐富經驗,使本文成為任何希望了解液冷技術未來發展——尤其是正形塑下一代AI資料中心的創新「晶片直觸式冷卻(Direct-to-Chip Cooling)」技術——之值得信賴資源。

液冷需求持續攀升

隨著AI資料中心將硬體效能推向全新極限,傳統氣冷方式已難以應對散熱挑戰。NVIDIA GB200 處理器作為所有AI資料中心爭相採用的核心處理器,所產生的熱量之高,已令氣冷甚至浸沒式冷卻(immersion cooling)均無法提供足夠的熱管理能力。此一困境,促使「晶片直觸式(D2C)單相液冷」成為高效能AI基礎設施的首選方案。

晶片直觸式冷卻運作原理

D2C冷卻透過直接安裝於處理器上的**冷板(cold plates)實現。特殊冷卻液在冷板內部循環流動,吸收處理器產生的熱量後,再回流至冷卻液分配單元(Coolant Distribution Unit, CDU)**進行降溫並重新循環。CDU主要有兩種配置:

  • 液對氣型(Liquid-to-Air, L2A)CDU:利用風扇為冷卻液降溫後再行循環。此架構適用於未建置既有水冷基礎設施的場所。

  • 液對液型(Liquid-to-Liquid, L2L)CDU:藉由廠務用水進行降溫,效率更佳,但需針對原本未規劃液冷支援的資料中心進行基礎設施升級。

單相與雙相冷卻的關鍵差異在於:單相冷卻中冷卻液始終維持液態;而雙相冷卻則涉及液態與氣態之間的相變(蒸發與冷凝)。儘管雙相冷卻效率更高,但因其成本較高且系統複雜度大,目前單相D2C冷卻已成為AI資料中心的主流選擇。

CDU尺寸與部署方式

資料中心依工作負載強度、機房空間配置及既有冷卻基礎設施之差異,需採用不同CDU尺寸與部署架構,主要類型包括:

  • 機櫃式CDU(Rack-Based CDU):體積緊湊(通常為4U),直接安裝於伺服器機櫃內,透過集流管(manifold)系統為整座機櫃內所有伺服器供應冷卻液。

  • 列式CDU(Row-Based CDU):設置於一排伺服器機櫃的末端或中段,透過**次級流體網路(Secondary Fluid Network, SFN)**為多座機櫃集中供冷。正確選用配管材質並嚴格遵守資料中心相關規範至關重要。

  • 廠務級CDU(Facility-Based CDU):大型冷卻解決方案,安裝於獨立的機電室內,可支援數兆瓦級熱量散逸。此類系統需搭配強健的SFN設計,方能達成高效冷卻液分配。

  • 機櫃後門熱交換器(Rear-Door Heat Exchanger, RDHx):安裝於伺服器機櫃背板,屬被動式熱交換裝置,利用冰水或特殊冷卻液,在熱空氣重新進入機房前即先行移除其熱量。

晶片直觸式冷卻的優勢

AI驅動型工作負載所需的功率密度遠高於傳統資料中心伺服器,因此散熱效率已躍居首要考量。相較於氣冷與浸沒式冷卻方案,D2C冷卻具備以下多重優勢:

  • 更高效率:透過直接將處理器熱量導入冷卻介質,大幅降低熱阻。

  • 更低能耗成本:傳統氣冷系統須仰賴龐大風扇與冷水機組維持最佳運作溫度;D2C方案則可顯著降低功耗,長期節省營運成本。

  • 卓越擴展性:藉由模組化CDU設計,資料中心可分階段升級冷卻基礎設施,無需全面翻新整座設施。

  • 減少用水量:不同於傳統蒸發式冷卻,D2C系統採用封閉式冷卻液循環,大幅降低用水需求。

液冷技術導入面臨的挑戰

儘管具備諸多優勢,晶片直觸式液冷的實際導入仍面臨若干挑戰:

  • 既有設施改造難題:為氣冷設計的舊有資料中心,若欲採用L2L冷卻,往往需進行基礎設施升級。

  • 冷卻液相容性問題:選用兼具導熱性、抗腐蝕性與使用壽命的合適冷卻液,至關重要。

  • 標準化障礙:儘管產業領導者正積極推動通用液冷標準,但現行CDU類型、集流管設計與冷卻液配方的差異,仍造成系統整合困難。

AI資料中心液冷技術的未來展望

隨著AI工作負載日益密集且功耗持續攀升,液冷技術亦將持續演進。產業正邁向混合式冷卻方案,結合D2C冷卻與機櫃後門熱交換器(RDHx),以最大化整體效率。此外,廠務用水的可取得性,亦將加速L2L CDU的廣泛採用,進一步提升效能與永續性表現。

結論

晶片直觸式液冷是AI驅動型資料中心的領先解決方案,具備無與倫比的效率、擴展性與長期成本效益。當處理器性能持續提升、散熱需求不斷攀升,資料中心必須採用創新冷卻技術,方能維持高效能與永續營運。深入理解D2C冷卻技術及其部署策略,對於現代AI基礎設施的規劃與決策至關重要。

在 ByteBridge,我們專精於為客戶量身打造尖端冷卻解決方案。憑藉在液冷技術(含晶片直觸式解決方案)領域的深厚專業,我們能協助資料中心設計與建置最適化、高能源效率的系統,使其順利擴展規模並發揮最高潛能。選擇與 ByteBridge 合作,即是擁有一位值得信賴的夥伴,共同克服當代冷卻挑戰,並為AI工作負載建構面向未來的基礎設施。

Curtis Breville

作者簡介

柯蒂斯・布雷維爾(Curtis Breville)

全球液冷技術負責人 — AI資料中心

柯蒂斯・布雷維爾博士(Dr. Curtis Breville)現任 ByteBridge 全球液冷技術負責人—AI資料中心。他擁有逾34年IT產業經驗,其中25年專注於資料中心基礎設施。作為液冷技術、資料儲存、系統整合及AI就緒環境領域的產業領袖,柯蒂斯曾於CoolIT Systems、AHEAD與戴爾科技(Dell Technologies)擔任要職,主導開發多項針對高效能運算(HPC)與AI工作負載的尖端解決方案。他在晶片直觸式冷卻與新一代熱管理技術方面的深厚造詣,使其成為資料中心效率與永續性演進過程中備受信賴的權威聲音。

延伸閱讀