咨询QQ:
      杂志订阅

      编辑

      网管

      培训班

      市场部

      发行部

电话服务:
 010-82024981
欢迎, 客人   会员中心   帮助   合订本   发布信息
设为首页 | 收藏本页
生成式人工智能的应用可能促使数据中心重新设计
  • 改变游戏规则的生成式人工智能技术正深刻影响着员工的工作方式、与客户的互动模式以及与合作伙伴的协作形态。然而,该技术对资源的巨大需求正促使各组织反思数据中心的设计与管理策略。

    改变游戏规则的生成式人工智能技术正深刻影响着员工的工作方式、与客户的互动模式以及与合作伙伴的协作形态。然而,该技术对资源的巨大需求正促使各组织反思数据中心的设计与管理策略。
      
      这些挑战在企业环境中尤为显著。在办公场景中,专门构建的生成式人工智能大型语言模型(LLM)正接受企业数据的培训,以提供前所未有的自然语言处理和数据分析能力,支持员工和客户服务工具。
      
      调研机构Gartner公司预测,到2026年,超过80%的企业将采用生成式人工智能API或模型,且大多数企业将在超大规模云平台或自有数据中心内部署生成式人工智能应用。
      
      尽管企业长期以来一直利用高性能计算(HPC)系统和专用图形处理单元(GPU)进行密集数据处理,但生成式人工智能系统需求的增长以及它们需要迅速处理数据以实现对用户的近乎实时响应,推动了专用人工智能加速器芯片开发的激增。
      
      这些高性能芯片运行的服务器,结合了GPU和高速内存(如英伟达的GH200、AMD的MI350和英特尔的Gaudi3系列),经过优化,可加速生成式人工智能的运行。它们正被快速部署于数据中心,制造工厂也在全力生产以满足需求。
      
      德勤公司预测,这类芯片的市场价值将超过500亿美元,约占全球芯片市场的11%,并预计到2027年将增长至数千亿美元。这为芯片制造商带来了巨大的收入潜力,同时也为将生成式人工智能加速器集成到数据中心的公司带来了新的挑战。
      
      生成式人工智能的功耗问题
      
      由于生成式人工智能芯片的功耗远高于普通芯片,其广泛采用已带来诸多挑战。处理生成式人工智能查询所消耗的能量是传统数据库查询的10倍,这意味着传统数据中心计算每个机架通常消耗高达8千瓦或10千瓦的能量,而生成式人工智能优化系统则可能将其推至每个机架40千瓦、50千瓦甚至100千瓦。
      
      这是电力需求的一次重大飞跃,要求数据中心基础设施进行大量调整,包括电力容量、现场配电、浪涌保护、备用发电等方面。
      
      据研究机构TechInsights公司的数据,随着生成式人工智能在各公司数据中心内的迅速扩展,以及在托管设施中为众多租户提供生成式人工智能能力所加剧的乘数效应,到2029年,生成式人工智能预计将占世界总能耗的1.5%。
      
      哥伦比亚大学全球能源政策中心(CGEP)预计,到2027年,GPU将消耗美国1.7%的电力容量和4%的电力销售,而今年这一比例已达到2%。此外还发现,到那时,为运行LLM而优化的数据中心将消耗总商业电力需求的12%,几乎是今年7%需求的两倍,是OpenAI公司在2022年发布IChatGPT前需求的四倍,后者将生成式人工智能技术推向了主流。
      
      电力消耗的激增并非均匀分布:尽管托管设施遍布亚太地区和全球各大城市,但大型数据中心往往集中在发电可靠、通信互联广泛、地缘政治局势稳定、治理机制健全的地区。这意味着生成式人工智能的快速采用将使这些地区的电力供应面临紧张,同时推动其最大用户在新加坡、悉尼、马尼拉和香港等成熟的区域中心扩大数据中心规模。
      
      然而,许多其他组织则将其生成式人工智能功能集中在其现有数据中心内,以减少延迟和复杂性。
      
      冷静应对生成式人工智能的挑战
      
      由人工智能驱动的需求激增所带来的影响促使企业制定战略以将该技术引入自己的数据中心。
      
      大多数公司将数据中心的一部分空白空间分配给生成式人工智能,通常为包含一个或多个专用机架的“微型数据中心”划分空间,这些机架具备支持电源、冷却和通信基础设施的能力。
      
      这不仅包括专注于大容量电力供应,还包括探索冷却生成式人工智能加速器的新方法。这些加速器产生的热量极大,以至于传统的热通道/冷通道冷却技术根本无法跟上。这一挑战正推动替代冷却形式的复兴,特别是水冷技术,如直接对芯片进行液体冷却。这种方法通过物理地将冷板放在芯片顶部,并让冷水通过它们以吸收多余的热量,从而有效提取人工智能加速器芯片中的热量。
      
      数据中心产生的热量激增预计将推动水冷技术成为主流。今年预计在该技术上的投资将以每年25%的速度增长,达到20亿至30亿美元。通过采取谨慎的数据中心设计方法,确保基础设施能够满足生成式人工智能的需求,能够顺利加入这一潮流。
      
      编译:Harris
      
      

    改变游戏规则的生成式人工智能技术正深刻影响着员工的工作方式、与客户的互动模式以及与合作伙伴的协作形态。然而,该技术对资源的巨大需求正促使各组织反思数据中心的设计与管理策略。