在當(dāng)前“東數(shù)西算”時(shí)代背景下,隨著云計(jì)算、大數(shù)據(jù)、人工智能等信息技術(shù)的快速發(fā)展,數(shù)據(jù)呈現(xiàn)幾何級(jí)增長(zhǎng),作為“動(dòng)力源”的數(shù)據(jù)中心,其計(jì)算、存儲(chǔ)和網(wǎng)絡(luò)資源的性能不斷提升,密度也在不斷變大,隨之而來(lái)的是單位空間內(nèi)功耗的增加;而在節(jié)能減排需求的驅(qū)動(dòng)下,通信領(lǐng)域?qū)?A href="http://huaquanjd.cn/site/CN/Search.aspx?page=1&keywords=%e6%95%b0%e6%8d%ae%e4%b8%ad%e5%bf%83&column_id=ALL&station=%E5%85%A8%E9%83%A8" target="_blank">數(shù)據(jù)中心節(jié)能降耗的要求越來(lái)越嚴(yán)格。
算力的增長(zhǎng)帶來(lái)硬件能耗的攀升,在保證算力運(yùn)轉(zhuǎn)的前提下,只有通過(guò)降低數(shù)據(jù)中心輔助能源的消耗,才能達(dá)成節(jié)能目標(biāo)下的PUE(Power Usage Effectiveness)要求。典型數(shù)據(jù)中心制冷系統(tǒng)能耗占比達(dá)到24%以上,是數(shù)據(jù)中心輔助能源中占比最高的部分,因此,降低制冷系統(tǒng)能耗能夠極大促進(jìn)PUE的降低。
液冷技術(shù)是中興通訊打造極致PUE、助力綠色數(shù)據(jù)中心的關(guān)鍵路徑之一。中興通訊已推出全液冷系統(tǒng)解決方案,由室外冷源、液冷服務(wù)器機(jī)柜、CDU(Coolant Distribution Unit)、EDU(External cooling system Distribution Unit)四部分組成(見(jiàn)圖1)。
圖1 液冷系統(tǒng)架構(gòu)
整個(gè)系統(tǒng)包含兩個(gè)熱量傳遞路徑:其一,液冷服務(wù)器內(nèi)主要發(fā)熱元件產(chǎn)生的熱量經(jīng)液冷板傳遞給二次側(cè)工質(zhì),二次側(cè)工質(zhì)在二次側(cè)水泵的驅(qū)動(dòng)下進(jìn)入板式換熱器,換熱器內(nèi)二次側(cè)工質(zhì)將熱量傳遞給一次側(cè)工質(zhì),一次側(cè)工質(zhì)在一次側(cè)水泵的驅(qū)動(dòng)下進(jìn)入閉式冷卻塔,在冷卻塔內(nèi)一次側(cè)工質(zhì)與室外空氣進(jìn)行換熱,完成散熱循環(huán);其二,室內(nèi)空氣在風(fēng)機(jī)的驅(qū)動(dòng)下帶走液冷服務(wù)器內(nèi)次要發(fā)熱元件產(chǎn)生的熱量,之后空氣經(jīng)過(guò)液冷背門將熱量傳遞給一次側(cè)工質(zhì),一次側(cè)工質(zhì)在一次側(cè)水泵的驅(qū)動(dòng)下進(jìn)入閉式冷卻塔,在冷卻塔內(nèi)一次側(cè)工質(zhì)與室外空氣進(jìn)行換熱,完成散熱循環(huán)。
中興通訊自研高性能液冷服務(wù)器采用雙路Intel XEON高性能CPU、32根內(nèi)存條,可應(yīng)用于大規(guī)模數(shù)據(jù)計(jì)算與存儲(chǔ)場(chǎng)景,關(guān)鍵部件包含:液冷工質(zhì)、液冷板、流體連接器、液冷管路以及漏液檢測(cè)裝置等。
液冷工質(zhì)
二次側(cè)液冷工質(zhì)是IT液冷方案設(shè)計(jì)中首先需要確定的部分,直接影響液冷系統(tǒng)的設(shè)計(jì)方案、工作環(huán)境、可靠性、維護(hù)方式等。選型過(guò)程中需要考慮工質(zhì)熱物性(密度、粘度、比容、導(dǎo)熱系數(shù)等)、兼容性(金屬、非金屬)、成本和可獲取性等多種因素的綜合影響。中興通訊液冷服務(wù)器選用了水基溶液,如去離子水、乙二醇水溶液、丙二醇水溶液等,并配合具有一定緩蝕、殺菌、阻垢功能的化學(xué)藥劑使用,在保證可靠性的同時(shí),兼具高性價(jià)比。
液冷板
服務(wù)器液冷板設(shè)計(jì)需滿足定制化和通用性,首先液冷板設(shè)計(jì)需要根據(jù)單板芯片和芯片布局進(jìn)行芯片冷板和管路布局設(shè)計(jì),具有一定的定制化特性,其次在定制化結(jié)構(gòu)設(shè)計(jì)中應(yīng)盡量保證內(nèi)部零件的通用性,如芯片冷板內(nèi)部流道、外形尺寸,以及液冷板進(jìn)出口組件結(jié)構(gòu)盡可能一致,以降低成本。液冷板的選型還需要結(jié)合實(shí)際功耗、工作壓力、流速等條件,綜合考慮冷板材質(zhì)、工藝等。
同時(shí),為了提升節(jié)能效果,IT設(shè)備應(yīng)盡可能提高冷板板式液冷占比。中興通訊自研液冷服務(wù)器支持不同的液冷解決方案,如CPU液冷、CPU+內(nèi)存條液冷,以及CPU+內(nèi)存條散熱+VR液冷,冷板液冷占比最高可達(dá)80%以上,滿足不同的制冷需求。
流體連接器
流體連接器主要用于液冷散熱系統(tǒng)環(huán)路中各部件間的快速連接和斷開(kāi)。選型要點(diǎn)包括工作流量、溫度、壓力、介質(zhì)、殼體材料、流阻特性、顏色標(biāo)識(shí)、安裝方式、接口形式等多方面因素。現(xiàn)階段,中興通訊自研液冷服務(wù)器產(chǎn)品選擇了業(yè)界主流的UQD(Universal Quick Disconnect)系列流體連接器,促進(jìn)行業(yè)標(biāo)準(zhǔn)化進(jìn)程,滿足最終用戶兼容替代需求。
分液器
分液器安裝在IT設(shè)備液冷機(jī)柜內(nèi),起到流量分配作用,將系統(tǒng)的循環(huán)工質(zhì)分配到各個(gè)IT設(shè)備節(jié)點(diǎn),在液冷板內(nèi)換熱后將熱量帶出到主水管路。其設(shè)計(jì)選型需要考慮流量分配一致性,并根據(jù)結(jié)構(gòu)空間、充注量和機(jī)柜總重量綜合考慮分液器的體積。
液冷軟管
液冷管路是循環(huán)工質(zhì)流通通路,參與整個(gè)液冷系統(tǒng)的流量-流阻分配,同時(shí)為外接液冷設(shè)備提供簡(jiǎn)便的轉(zhuǎn)接接口。液冷管路選型需要考慮材料兼容性、流速、管路布置、安裝方式、流量分配設(shè)計(jì)以及可靠性方面的要求。
漏液檢測(cè)裝置
漏液檢測(cè)采用節(jié)點(diǎn)級(jí)和整柜級(jí)智能監(jiān)控漏液檢測(cè)技術(shù),及時(shí)告警,快速處理。主板提供了液冷方案漏液偵測(cè)接口,可快速識(shí)別泄漏情況,提供漏液檢測(cè)秒級(jí)精細(xì)化告警,并支持應(yīng)急下電動(dòng)作。
液冷技術(shù)實(shí)現(xiàn)全年自然冷卻,除制冷系統(tǒng)自身的能耗降低外,采用液冷散熱技術(shù)有利于進(jìn)一步降低芯片溫度,帶來(lái)更高的可靠性和更低的能耗,整機(jī)能耗預(yù)計(jì)可降低約5%。液冷數(shù)據(jù)中心PUE可降至1.2以下,每年可節(jié)省大量電費(fèi),在確?!皷|數(shù)西算”數(shù)據(jù)運(yùn)輸“大動(dòng)脈”的暢通和高效前提下,更加綠色節(jié)能。
作者:中興通訊 范皓龍