人工智能和软件如何推动5G数据中心转型
- 2023/7/27 7:22:29 作者: 来源:千家网
-
如今,我们正在见证计算领域巨大的创新阶段,全球5G的快速部署与数据密集型工作负载以及生成型人工智能的突破性发展交织在一起。整个计算生态系统对灵活性的需求从未如此强烈,以创新和探索新型加速、新颖的系统架构以及满足不断增长的数据消费需求的新方法。
如今,我们正在见证计算领域巨大的创新阶段,全球5G的快速部署与数据密集型工作负载以及生成型人工智能的突破性发展交织在一起。整个计算生态系统对灵活性的需求从未如此强烈,以创新和探索新型加速、新颖的系统架构以及满足不断增长的数据消费需求的新方法。半导体设计成本上升和全球能源预算收紧带来的额外挑战意味着我们正处于全球计算基础设施转型之中。
5G与人工智能的结合蕴藏着巨大的机遇。5G技术可以提供人工智能应用收集、传输和处理大量数据所需的高吞吐量、低延迟和可靠的连接。作为回报,人工智能可以帮助5G网络动态分配资源、管理流量和检测异常。人工智能还可以利用5G为用户和设备提供个性化、情境化的智能服务。这两项技术将共同真正改变我们的沟通、工作和生活方式。
但每个故事都有两个方面。5G和人工智能给数据中心运营商和客户带来了重大挑战,因为两者都会产生大量数据,需要以灵活、及时、经济和节能的方式存储、处理和分析。为了充分利用这个机会,数据中心架构师需要围绕计算的设计、构建和部署方式寻找变革性方法。
5G虚拟RAN:边缘数据中心的关键推动者
支持5G的关键创新之一是虚拟无线接入网络(vRAN)。vRAN是一种相对较新的部署模型,正在流行。它将蜂窝基带处理功能与硬件解耦,并将其作为软件在通用服务器上运行。
这可以在部署和管理5G网络时提供更大的灵活性、可扩展性和效率。虚拟化5G基础设施的规模经济可以通过多种方式实现。第一,结合相同的计算基础设施来服务5G连接和边缘应用,使连接和数据处理更接近源;其次,软件驱动的云原生基础设施可实现动态资源分配、负载平衡、更快的配置和自动化网络管理,这对运营效率产生巨大影响。第三,借助光纤连接,vRAN可以将多个基站汇集到一个集中式服务器池中,从而降低5G基础设施的成本和复杂性。
通过使计算能力更接近最终用户及其设备,vRAN可以促进边缘计算,同时减少延迟并提高性能。
但为了充分发挥其潜力,vRAN需要计算平台能够支持高吞吐量、低延迟和确定性的无线电信号处理,同时保持非常高的计算效率。它还需要高速网络接口来处理服务器、无线电和终端设备之间的大量数据流量,这进一步强调了对变革性方法的需求。
当今的5G数据中心:CPU和DPU
传统通用CPU无法处理5GvRAN堆栈复杂且多样化的工作负载。通过将所有网络功能虚拟化为软件,包括操作系统、网络层、应用程序和协议,数据中心内的流量急剧增加,从而降低了CPU效率。为了应对这一挑战,CPU需要一个补充性的专用加速设备,可以卸载CPU的网络任务,以提高性能和效率。当今5G数据中心最流行的加速设备之一是数据处理单元(DPU)。
DPU是具有嵌入式处理器或可编程逻辑的网卡,可以执行网络功能,例如数据包处理、加密/解密、压缩/解压缩、负载平衡、防火墙、路由/交换和服务质量(QoS)。DPU可以通过接管部分网络相关任务来帮助降低服务器的CPU利用率和功耗,从而实现根据不同场景配置和优化网络功能的灵活性和可编程性。
异构计算为未来的工作负载增加了更多灵活性
虽然当今的5G数据中心已经利用CPU和DPU来支持vRAN和其他5G应用,但下一代5G数据中心将需要在硬件架构、软件平台和服务模型方面提供更大的灵活性。例如,数据中心可能使用GPU来处理复杂的数学、图形、视频或其他大型数据集;用于机器学习工作负载的GPU或TPU;以及用于可编程逻辑的FPGA,以解决更多自定义工作负载。
这种类型的异构计算有助于提高融合智能边缘数据中心的性能、效率和可扩展性,这些数据中心可以提供更接近最终用户的RAN服务、云计算能力和人工智能应用服务。最终,将更专业的计算移至更靠近设备和最终用户的位置,可以改善延迟并实现5G所承诺的许多下一代用例。
软银、英伟达和Arm最近宣布合作,旨在为人工智能和高性能计算(HPC)创建世界上最先进的数据中心。它是当前此类数据中心转型的最佳示例之一,具有专门的处理功能。此次合作预计将为基于NvidiaGH200GraceHopper超级芯片的生成式AI和5G/6G应用提供一个开创性的平台,软银计划在日本各地新的分布式AI数据中心推出该平台。与过去使用的数据中心相比,新数据中心的分布将更加均匀,并可处理人工智能和5G工作负载。这将使他们能够以低延迟更好地以峰值容量运行,并大幅降低总体能源成本。
软银将与Nvidia合作建立数据中心,为在全球范围内快速部署生成式AI应用和服务铺平道路,该数据中心可以在多租户通用服务器平台上托管生成式AI和无线应用,从而高效节能、降低成本并提供更多服务。
此类创新代表了5G和人工智能的重要拐点。整个数据中心围绕专业处理提供的目标性能而构建,为运营商提供实现vRAN潜力所需的运营效率。此外,专业处理使运营商能够在同一物理位置共同托管计算密集型服务,例如人工智能或3D视频会议-更靠近数据,更靠近用户。这一点至关重要,因为灵活性、低延迟和性能效率确保了计算资源及其所需资本和能源成本的最佳利用,从而改变了整个数据中心的TCO(总拥有成本)。
当我们展望下一代5G数据中心时,对灵活高效的计算平台的需求至关重要。为了满足在5G和人工智能的推动下对数据中心服务不断增长的需求,下一代数据中心将被定义为适应新技术和工作负载的能力,并提供企业和消费者所需的性能和效率。因此,我们将继续将高效、专业的芯片视为该领域创新和转型的基础。
编辑:Harris
如今,我们正在见证计算领域巨大的创新阶段,全球5G的快速部署与数据密集型工作负载以及生成型人工智能的突破性发展交织在一起。整个计算生态系统对灵活性的需求从未如此强烈,以创新和探索新型加速、新颖的系统架构以及满足不断增长的数据消费需求的新方法。