人工智能数据中心需要消耗大量电力，配备先进的冷却系统和专为人工智能设计的硬件。人工智能数据中心的耗电量在20兆瓦到1吉瓦之间，每个机架的耗电量是传统数据中心的10倍之多。这主要是因为人工智能工作负载会以惊人的速度处理数据。
　　
　　这里的基础设施远不止简单的电力线路。人工智能数据中心是专门建造的设施，配备GPU和TPU集群、液冷系统以及高速网络。
　　
　　所有这些组件协同工作，用于训练机器学习模型，并确保数百万用户的AI应用正常运行。
　　
　　这为什么重要?预计到2030年，全球数据中心的电力需求将增长165%。
　　
　　这种增长将影响电网、建设成本，并可能塑造人工智能的未来。
　　
　　人工智能计算的核心电力基础设施
　　
　　人工智能数据中心需要通过多层基础设施输送大量电力。
　　
　　一个大型数据中心可能需要100兆瓦到1吉瓦的电力。电网容量和备用系统是可靠运行的基石。
　　
　　电网互联与容量
　　
　　电网互联是人工智能数据中心的主要电力来源。这些设施需要与能够提供数十甚至数百兆瓦电力的电网建立专用连接，并保证全天候不间断运行。
　　
　　接入电网意味着与电力公司合作，检查容量并签订服务协议。
　　
　　电力供应目前是人工智能基础设施扩展的最大瓶颈。一些地区的电网容量不足以支持新建的人工智能数据中心，因此运营商有时需要等待数年才能完成电力升级。
　　
　　开发商现在首先考虑的是可用的电网电力，然后再选择数据中心的选址。
　　
　　建设新的变电站和输电线路需要很长时间——通常需要3到5年。运营商必须尽早规划电力需求，否则将面临严重的延误。
　　
　　现场发电
　　
　　现场发电有助于应对用电高峰或电网故障。大多数数据中心使用天然气涡轮机或柴油发电机作为备用电源。
　　
　　有些数据中心甚至安装了永久性发电机，以减少对电网的依赖。
　　
　　新型数据中心也在考虑使用可再生能源进行现场发电。太阳能电池板和燃料电池可以帮助抵消电网用电量，提高可持续性。
　　
　　这些系统增强了系统的韧性，确保在电网无法供电时也能正常运行。
　　
　　备用发电量必须满足数据中心的总用电量需求。例如，如果您的数据中心需要100兆瓦的电力，那么在长时间断电期间，您需要为所有100兆瓦的电力需求提供备用电源。
　　
　　配电和冗余
　　
　　配电系统将电力从电网和发电机输送到服务器机架。数据中心的电源架构正在转向800伏直流配电，以满足人工智能应用的需求，这种配电方式效率更高，损耗更小。
　　
　　配电单元(PDU)将电力输送到每个机架。使用100千瓦或以上功率的AI机架需要配备智能监控功能的重型PDU。
　　
　　这些设备实时监控功耗，防止电路过载。
　　
　　冗余配置决定了系统的可靠性：
　　
　　·N+1：在最低配置基础上增加一个组件
　　
　　·2N：两个完整的独立系统
　　
　　·2N+1：两个系统外加一个备用组件
　　
　　大多数AI中心至少采用N+1冗余配置，以确保99.99%的正常运行时间。一些关键任务场所甚至采用2N冗余配置，即使成本更高。
　　
　　UPS系统和备用解决方案
　　
　　UPS(不间断电源)系统用于填补断电到发电机启动之间的电力空档。它们使用电池在切换期间提供5到15分钟的稳定电源。
　　
　　人工智能计算对哪怕是最微小的中断都无法容忍——否则，您可能会丢失数据或导致训练崩溃。
　　
　　现代UPS(不间断电源)现在使用锂离子电池。与老式铅酸电池相比，它们寿命更长、容量更大、占用空间更小。
　　
　　您的电池容量必须足以覆盖整个设施在切换期间的用电量。一个50兆瓦的中心需要能够同时处理全部50兆瓦功率的UPS系统。
　　
　　定期测试至关重要，以确保电池始终按预期工作。
　　
　　专用硬件助力人工智能性能提升
　　
　　人工智能数据中心依赖于能够处理海量并行计算的专用芯片。普通处理器根本无法胜任。
　　
　　这些中心使用定制加速器、高密度服务器配置和专用处理器来训练和运行复杂的人工智能模型。
　　
　　人工智能加速器和GPU集群
　　
　　图形处理器(GPU)是现代人工智能基础设施的核心。它们擅长同时运行数千个计算任务。
　　
　　CPU一次只能处理一个任务，而GPU则拥有数千个并行工作的微型核心。
　　
　　人工智能加速器主要分为两大类：独立硬件，与CPU配合使用以处理繁重任务;以及集成在CPU中的加速器，用于更经济实惠的配置。
　　
　　大型数据中心将成百上千个这样的加速器连接成集群。
　　
　　NVIDIAH100是目前大型数据中心首选的人工智能GPU。这些芯片连接到高速网络，形成集群，用于训练大规模人工智能模型。
　　
　　数据中心将这些GPU集群放置在高密度机架中，以应对其巨大的功耗和发热量。
　　
　　TPU和专用芯片
　　
　　张量处理单元(TPU)是通用GPU的替代方案。它们专为人工智能模型最需要的数学运算而设计。
　　
　　谷歌开发了用于神经网络计算的TPU，并针对矩阵乘法等任务进行了优化。
　　
　　越来越多的公司正在为特定的人工智能任务设计定制芯片。这些专用集成电路(ASIC)牺牲了灵活性，换取了在某些任务上更高的性能和更低的能耗。
　　
　　2026年的人工智能硬件市场将包括GPU、FPGA和ASIC，每种产品都满足不同的需求。
　　
　　专用芯片使企业能够针对自己的模型和应用程序进行精细调整。这意味着更高的每瓦性能，这在需要不间断运行数千个处理器时至关重要。
　　
　　并行处理和高密度计算
　　
　　现代人工智能训练需要大规模并行计算——将庞大的计算任务同时分配到数以吨计的处理器上。
　　
　　这使得复杂模型的训练速度大幅提升，将数月的训练时间缩短至数天甚至数小时。
　　
　　高密度配置将更强大的处理能力集成到更小的空间内。数据中心通过以下方式实现这一点：
　　
　　·使用能够承载更重设备并处理更多电力的专用机架
　　
　　·先进的冷却系统来处理密集硬件产生的热量
　　
　　·低延迟网络以确保处理器同步运行
　　
　　·高速存储以确保数据快速传输
　　
　　这种紧凑的配置对工程师来说颇具挑战性。与传统数据中心相比，高密度数据中心的电力系统必须提供更高的单位面积电力。
　　
　　优化大型语言模型的训练
　　
　　训练大型语言模型意味着需要让数千个加速器同步运行数周甚至数月。
　　
　　现代人工智能背后的基础设施必须确保数十亿个参数之间的完美协调。
　　
　　大规模训练依赖于专用互连网络，以闪电般的速度在处理器之间传输数据——速度可达每秒数TB。
　　
　　任何延迟都会拖慢整个过程。因此，数据中心使用专为人工智能定制的网络架构，而不是现成的设备。
　　
　　内存带宽也至关重要。每个处理器都需要超高速地访问模型参数和训练数据。
　　
　　如果内存无法跟上，整个过程就会停滞不前。处理能力、网络速度和内存性能的组合决定了数据中心训练最新模型的速度。
　　
　　先进的散热和热管理
　　
　　人工智能数据中心会产生大量热量，必须迅速散热才能确保系统流畅运行。在现代数据中心，散热能耗占总能耗的25%到40%。
　　
　　良好的散热管理至关重要。
　　
　　液冷和浸没式冷却方案
　　
　　液冷如今已成为高密度人工智能工作负载的必备之选。这些工作负载产生的热量远超普通风冷系统所能承受。
　　
　　液冷方法使用水或特殊液体直接从处理器和其他发热部件吸收热量。
　　
　　芯片级直接冷却将冷却液输送到CPU和GPU上的冷板。液体吸收热量并将其带走冷却，以便循环利用。
　　
　　这种方法非常适合极热的硬件。
　　
　　浸没式冷却更进一步。服务器浸入非导电液体中，液体吸收所有表面的热量。
　　
　　无需风扇，而且噪音更低。
　　
　　混合液冷系统将不同的冷却方法结合使用，以应对同一位置的不同温度需求。
　　
　　通过为每台设备匹配合适的冷却方案，这有助于节省能源。
　　
　　后门热交换器
　　
　　后门热交换器直接安装在服务器机架的背面。它们利用装有冷水的盘管来冷却离开设备的空气。
　　
　　这项技术无需进行重大改造即可融入现有的数据中心。如果您拥有高功率机架，只需添加热交换器即可增强冷却效果。
　　
　　这些系统与常规的房间冷却系统配合使用，形成分层冷却方案。它们直接从热源吸收热量，避免热量与房间内的其他空气混合。
　　
　　这减轻了主暖通空调系统的压力。
　　
　　空气冷却和混合冷却方案
　　
　　空气冷却仍然是许多人工智能数据中心的首选方案，尤其适用于规模较小或电力需求适中的数据中心。
　　
　　机房空调(CRAC)机组和机房空气处理机(CRAH)系统通过架空地板或顶置风管输送冷空气。
　　
　　冷热通道布局有助于提高效率。服务器在冷通道中彼此相对，吸入冷空气，并将热空气吹入单独的热通道。
　　
　　封闭式系统使用屏障阻止空气混合，从而保持温度稳定。
　　
　　混合冷却方案根据设备的不同，同时使用空气冷却和液体冷却。标准服务器可能采用空气冷却，而GPU集群则需要液体冷却。
　　
　　这种灵活性使数据中心能够为每个任务选择最佳冷却方案，从而平衡性能和成本。
　　
　　热监控和正常运行时间保障
　　
　　人工智能驱动的热管理系统依赖于分布在建筑物各处的温度传感器、风量计和功率监控器的数据。它们构建实时热图，并根据实际情况(而非预设数值)调整冷却方案。
　　
　　预测算法会寻找模式，并在潜在的热点区域演变成问题之前将其标记出来。这些系统可以将冷却能力分配到真正需要的地方，或在负载较轻的区域降低冷却能力。
　　
　　持续监控有助于及早发现热问题，确保正常运行时间安全。如果温度开始攀升至危险水平，系统会自动发出警报通知操作员。
　　
　　有些系统甚至可以自动调节冷却输出，在几乎无需人工干预的情况下将温度保持在安全范围内。此外，系统还配备了冗余冷却路径，因此即使一个系统发生故障，其余系统也能保证所有设备保持低温运行。
　　
　　设施在散热系统中设计了备用容量，因此即使在维护或发生意外故障期间，运行也不会受到影响。
　　
　　高带宽网络和存储架构
　　
　　人工智能数据中心需要专门的网络和存储来在处理器和内存之间传输海量数据。InfiniBand等技术可以连接数千个处理器，而分布式存储平台则负责处理训练和推理所需的大型数据集。
　　
　　InfiniBand和高带宽互连
　　
　　InfiniBand提供人工智能工作负载所需的高速连接。它能有效降低数据中心内GPU和其他处理器之间的延迟。
　　
　　现代人工智能架构采用NVLink和AMDInfinityInterconnect等高带宽互连技术来构建可扩展网络。通常，这些集群会将72到144个处理单元连接在一起。然而，铜缆互连的传输距离有限，这限制了集群规模，并影响模型的训练速度。
　　
　　InfiniBand交换机每个端口的吞吐量可超过400Gbps。例如，NVIDIA的Spectrum交换机提供51.2Tbps的带宽和低于300纳秒的延迟，非常适合分布式训练。这意味着数千个GPU可以几乎瞬间共享数据。
　　
　　网络层耗电量巨大，几乎占数据中心总能耗的10%。如果大型集群中的某个组件发生故障，停机造成的损失每天可能超过300万美元。真是惨重。
　　
　　分布式存储解决方案
　　
　　分布式存储将数据分散存储在众多服务器和位置，以满足人工智能(AI)的海量存储需求。这些系统必须同时兼顾巨大的容量和极快的速度。
　　
　　AI训练需要并行访问PB级的数据。存储架构与加速计算协同工作，构建低延迟数据管道。多个存储节点可以同时为成百上千个GPU提供数据。
　　
　　冗余是关键。数据会在不同的物理位置之间进行复制，因此即使某个驱动器或服务器发生故障，训练任务也不会中断。整个架构的核心在于通过精心分散数据块来平衡速度和可靠性。
　　
　　Lustre和分层存储系统
　　
　　Lustre是一种专为高性能计算和人工智能(AI)而构建的并行文件系统。它将元数据与数据传输分离，以尽可能提高吞吐量。
　　
　　分层存储的核心在于根据数据访问频率匹配合适的技术。热数据(模型当前需要的数据)存储在高速NVMe驱动器上。温数据移动到SSD，而冷数据则存储在容量大、价格低的硬盘驱动器上。
　　
　　这样既能降低成本，又能提高性能。训练数据集在使用期间会保留在高速层。模型训练完成后，这些检查点会转移到速度较慢、成本较低的存储介质上。
　　
　　系统会根据数据的使用方式自动移动数据。像HBM3这样的内存到计算链路，在短短5毫米的传输时间内就能达到每秒约36TB的速度。存储必须跟上向处理器提供数据的速度。
　　
　　面向AI应用的高级网络
　　
　　高级网络解决方案可以自动应对网络拥塞和性能波动。它们实时重新路由流量，以确保系统流畅运行。
　　
　　光子技术正在颠覆数据中心的设计，其意义远不止于用光纤取代铜缆。光路交换机摒弃了传统的网络骨干层，使运营商能够灵活配置带宽，从而减少瓶颈。数据始终在光域传输，因此信号转换和缓冲延迟更少。
　　
　　谷歌已在其人工智能基础设施中使用光路交换机。这些交换机可在毫秒内完成重新配置，并能动态适应不断变化的工作负载。
　　
　　如今，网络架构支持分布式站点之间的协调，以实现实时处理。横向扩展网络使用胖树拓扑或类似结构连接多个计算孤岛，从而平衡带宽和成本。
　　
　　可持续性与未来电力供应
　　
　　数据中心面临着越来越大的压力，需要在用电量空前增长的同时，尽可能减少对环境的影响。预计全球数据中心的电力需求将从2024年的460太瓦时(TWh)跃升至2030年的1000太瓦时(TWh)以上，碳排放量到2030年将达到约3.2亿吨二氧化碳(MtCO2)的峰值，之后有望下降。
　　
　　能源效率与人工智能驱动的自动化
　　
　　提高能源效率是数据中心实现绿色转型最快捷的方式。运营商正在部署先进的冷却系统，提高服务器的利用率，并设计每次计算耗电量更低的芯片。
　　
　　人工智能驱动的自动化在此发挥着双重作用。机器学习现在可以实时监控和调整电力使用情况，通过预测需求和关闭闲置设备来减少浪费。一些系统通过智能温度控制，将冷却成本降低了高达40%。
　　
　　硬件制造商也在重新思考如何为人工智能开发处理器。这些新型芯片每瓦的能耗比传统CPU更高，从而直接降低了每项任务的能耗。
　　
　　小型模块化反应堆和核能方案
　　
　　小型模块化反应堆(SMR)正逐渐成为稳定可靠电力供应的切实选择。科技公司已承诺在美国投资建设超过20吉瓦的SMR，而核能有望在本十年末发挥更大的作用。
　　
　　与传统核电站相比，SMR具有一些明显的优势。它们前期成本更低，建设速度更快，而且不受天气影响。
　　
　　这些反应堆预计将于2030年后开始投入运营，直接为数据中心提供低排放电力。结合可再生能源，核能有望在2035年前取代煤炭，成为数据中心电力的主要来源。
　　
　　可再生能源与碳减排举措
　　
　　预计到2030年，可再生能源将满足数据中心近一半的新增电力需求。风能、太阳能和水力发电目前已占全球数据中心电力供应的约27%，且风能和太阳能的装机容量正在快速增长。
　　
　　运营商正通过以下几种方式推广可再生能源：
　　
　　·通过购电协议(PPA)为新建风电场和太阳能发电场提供资金
　　
　　·在数据中心现场安装可再生能源设施
　　
　　·在可再生能源资源丰富的地区接入电网
　　
　　在欧洲，可再生能源和核能预计将共同满足大部分新增电力需求，到2030年这一比例将达到85%。东南亚和印度有望在2035年前实现可再生能源发电量超过煤炭发电量的目标。
　　
　　尽管如此，到2030年，天然气和煤炭仍将满足超过40%的新增电力需求，尤其是在增长速度超过可再生能源建设速度的情况下。
　　
　　环境影响与社区响应
　　
　　数据中心带来的环境问题远不止电力消耗。冷却系统会加剧当地水资源紧张，而庞大的数据中心建筑会占用原本可用于其他用途或保留为自然保护区的土地。
　　
　　目前，数据中心消耗了全球约1%的电力，预计到2030年将上升至3%，但这仍然不到全球二氧化碳排放总量的1%。然而，数据中心对当地环境的影响可能差异很大，具体取决于电网的供电类型。
　　
　　新建数据中心附近的社区正在就环境影响提出更严格的问题。一些地区甚至面临电网容量限制，导致新项目停滞或受阻。
　　
　　电子垃圾是另一个需要考虑的因素。退役的服务器和人工智能硬件升级意味着更多设备最终需要处置。运营商必须权衡尖端设备的需求与丢弃旧设备所带来的环境成本。
　　
　　生态系统：运营商、建设和新兴参与者
　　
　　人工智能数据中心领域由大型云服务提供商自建数据中心、专业运营商向人工智能公司租赁空间以及建筑公司重新设计以适应人工智能工作负载等多种因素构成。物理安全和监控系统必不可少，以确保这些宝贵的设施免受入侵者的侵害。
　　
　　超大规模数据中心和新型云服务提供商
　　
　　亚马逊、微软和谷歌等云巨头仍在建设庞大的数据中心，为其人工智能服务提供支持。这些超大规模数据中心消耗大量电力，并且正在从单纯的电力购买者转变为积极塑造能源市场。
　　
　　此外，还有一股新的“新型云”服务提供商浪潮正在兴起。例如，CoreWeave最初从事加密货币挖矿，之后转型进入人工智能领域。现在，他们运营着专为生成式人工智能而构建的设施，并将GPU容量租赁给OpenAI和Anthropic等公司，这些公司需要大量的计算资源，但又不想自建数据中心。
　　
　　此外，还有像xAI这样专注于人工智能的初创公司。这些厂商有时会与传统运营商合作，或者搭建自己的服务器，专门满足高密度人工智能集群独特的冷却和电力需求。它们的增长充分凸显了人工智能的需求与标准云计算的巨大差异。
　　
　　领先的数据中心运营商和项目
　　
　　DigitalRealty和Equinix运营着庞大的托管数据中心组合，不同的公司共享相同的空间和基础设施。他们负责建筑、电力、冷却和网络——客户只需自带硬件。为了满足人工智能(AI)的需求，两家公司都在快速扩张。
　　
　　专业的AI基础设施提供商正在给传统运营商带来一些竞争。一些提供商专注于高密度GPU集群，这需要与普通服务器机房不同的冷却解决方案。在这些地方，你会看到液冷和更高的机架单功率。
　　
　　大型项目如雨后春笋般涌现。仅Stargate数据中心项目就代表着数十亿美元的AI投资计划。像CyrusOne和QTSDataCenters这样的开发商正在与公用事业公司和地方政府合作，以锁定最佳地段。
　　
　　数据中心建设和设计趋势
　　
　　AI正在改变数据中心的建设方式。传统设施通常每个机架支持5-10千瓦的功率，但AI集群每个机架可能需要40-100千瓦的功率。这意味着施工团队必须从一开始就规划好应对更大的电力负荷和更强大的冷却系统。
　　
　　液冷正迅速成为人工智能数据中心的标配。直接芯片冷却系统将冷却液直接输送到处理器，而不是仅仅吹送冷空气。对于处理高密度人工智能系统产生的热量而言，液冷效率更高。
　　
　　速度也至关重要。模块化建造方式允许运营商通过在异地组装标准化单元，然后在现场进行组装，从而更快地启动并运行数据中心。预制电气和冷却设备可以将建设周期从数年缩短到数月。
　　
　　如今，选址的关键在于电力供应。开发商与电力公司密切合作，确保在破土动工前有足够的电力供应。可再生能源的获取也是一个重要因素，尤其对于那些致力于绿色环保的公司而言。
　　
　　物理访问控制和安全考量
　　
　　物理访问控制系统可确保数据中心免受未经授权的访问和盗窃。大多数场所都采用多因素身份验证——例如门禁卡、生物识别扫描仪和密码——以确保只有授权人员才能进入。安保人员会密切监控入口并巡逻场地。
　　
　　数据中心基础设施管理(DCIM)平台与安全系统集成，记录进出服务器机房的人员信息。如果有人试图访问受限区域，平台会发出警报。预测分析功能可以标记出可能预示着问题的异常访问模式。
　　
　　人工智能基础设施成本高昂，因此安全措施也更加严密。GPU服务器的成本远高于普通设备，使其成为潜在的攻击目标。一些场所采用尾随式入口(前一扇门锁上后下一扇门才会打开)来防止尾随进入。配备人工智能分析功能的视频监控系统会密切关注任何可疑情况。
　　
　　机器人和自动化技术正在逐步减少人员进入安全服务器机房的次数。自动化系统可以处理日常维护和监控工作，从而降低安全风险并确保运营顺畅。
　　
　　编辑：Harris