图5 谷歌水冷服务器机柜

如前面所述，除了被冷冻水带走的热量外，主板上内存硬盘等由电源风扇循环的热量，在热通道内被热通道顶部的制冷盘管重新制冷后，再被机房级的大风扇引导重新循环回服务器的冷通道侧以及现场人员操作通道内，最后被服务器吸入重新开始新一轮循环。通过适当控制机房级热通道内的服务器出风温度以及冷冻水供水温度，或者控制IT设备级的水冷服务器进水流量，以及服务器上气流循环的风扇转速，使得整个系统高效运转在最佳节能状态。

比如控制服务器的出风温度，将散发出来的热量有效控制在较小的热通道内，得到较高的置顶空调盘管的delta T温差，温差越大盘管热交换效率就更高。且热气流不会和冷气流混合，就近被冷却盘管散热，风扇的功耗也更低。同时通过盘管顶部的机房级循环大风扇将冷却后的空气重新循环回机房的冷通道内，整个机房环境作为大的冷通道，不仅提供一个凉爽的现场运维人员工作环境，同时还兼作为整个大冷池，用于众多服务器的风扇故障备份。

图6是机房某个剖面示意图，如前面介绍，整个机房环境是个大的冷通道，用于如下图515的工作人员操作空间，兼做服务器的进风侧，实际图6右侧机柜的右边也是有类似冷通道用于服务器的进风，这里没画出来。两排机柜间的通道516作为热通道，用于汇集两侧所有服务器发出的热量（当然主要发热部分由服务器内部散热片内的冷冻水带走），热通道顶部安装着标识为514的置顶盘管，由风扇512和盘管514将热通道516内的热量制冷后再释放到整个机房大环境冷通道内。虽然下图的512风扇没有和514盘管放在一起，专门做了个热吊顶510，实际在谷歌的很多案例中512风扇会直接安装在514盘管顶部，不再建设吊顶层来减少工程的复杂度。当然盘管514也可以不用直接安装在热通道的顶部，比如安装在机柜底部等，减少盘管漏水或者冷凝水等对服务器的运行风险，总之，可以灵活安装盘管和风扇的位置，满足不同的应用和风险需求。

图6 水冷服务器机房截面图

和谷歌的微模块技术一样，谷歌的水冷服务器机房沿用了地板下供水的方案，由于需要保持水冷服务器的水质，因此主要通过板式换热器528来隔离冷冻水内循环和冷却水外循环。513a和513b是机房级主供回水管路（类似于供电主母排），而515a和515b为机柜级配水供回水管路（类似于机柜供电PDU），524a和524b为到每个服务器的供回水支管（类似于电源线），非常类似供电系统的供电路径设计。其中524a和524b为快接软管，考虑服务器故障检修和搬迁等经常性维护操作，用于和服务器散热片的快速插接。整个管路上还有很多的阀门用于防止漏水，比如竖管上的球阀527和支管自动截至阀等。而流到每个服务器的冷冻水流量则由流量计525a和温度传感器525b来控制，比如当监测到服务器温度偏高的时候，可以加大水流量或者调低冷冻水供水温度等。（御风）