GenAI的兴起对各行各业产生了重大影响，影响了从工作流程到创新战略甚至客户互动等方方面面。各公司正在积极寻求整合以提高运营效率。这种影响在数据中心和网络中尤为明显，促使它们做出调整以满足其处理需求。从这个角度来看，根据JLL报告，超大规模数据中心正在以7.8%的复合年增长率增加机架密度，以满足对计算能力不断增长的需求。
生成式人工智能(GenAI)的兴起，尤其是大型语言模型(LLM)，正在迅速改变数据中心，需要高密度配置。这意味着将强大的GPU和专用人工智能芯片装入更小的空间，最大限度地提高每平方英尺的处理能力。这对于通常位于大型超大规模设施附近的卫星数据中心的LLM来说变得更加重要。
高性能计算(HPC)集群是另一个改变游戏规则的因素。这些互连的计算机网络擅长并行处理，大大加快了复杂AI模型的训练和推理运行（使用训练好的模型进行预测）。然而，这种能力是有代价的。GenAI巨大的能源需求需要创新的解决方案。数据中心正在采用液浸冷却，将服务器浸入专用液体中以实现高效传热。其他方法，如直接液体到芯片(DLC)冷却、INROW冷却和RDHX（后门热交换器）冷却机制也在实施中。这些技术为冷却密集的GPU和AI机架创造了一个高效的环境，同时也对PUE产生了积极影响。
对于服务器、交换机和面板等IT硬件产品来说，采用这些技术可能是一个挑战，因为它们需要兼容并能够承受这些冷却方法的独特要求。此外，探索太阳能和风能等可再生能源对于可持续增长至关重要。
数据中心的处理能力可能是GenAI的驱动引擎，但网络基础设施充当其高速传输系统。GenAI应用程序生成的大量数据（尤其是在训练和推理阶段）需要对数据中心管理网络流量的方式进行重大改变。一些关键的改造包括：
增加带宽：为了促进服务器和存储系统之间的无缝数据传输，数据中心正在投资高带宽网络解决方案，如以太网结构和远程直接内存访问技术。
分布式AI架构：为了分配处理工作负载并增强可扩展性，分布式AI架构正在获得关注。这些架构将训练或推理过程分散到地理分散的数据中心甚至边缘设备，从而减少对单个集中位置的依赖。
人工智能驱动的网络优化和自动化：人工智能算法可以分析网络流量模式、预测瓶颈并实时自动调整网络，从而优化性能和资源分配。
随着数据中心不断发展其网络基础设施以适应GenAI应用程序，有必要解决这一技术转变引发的安全性和合规性挑战。数据中心需要实施高级威胁检测解决方案、网络分段和持续监控，以抵御潜在的AI攻击或操纵企图。
监管机构正在努力应对GenAI的道德影响及其潜在的滥用。数据中心必须调整其运营和AI部署策略，以遵守更严格的数据隐私和安全法规。这些法规可能侧重于负责任的数据治理、减轻算法偏见以防止歧视性结果，并通过AI决策的可解释性和透明度促进信任和问责制。
GenAI时代为数据中心和网络基础设施带来了激动人心的机遇和重大挑战。随着GenAI应用的不断发展，数据中心需要保持敏捷性和适应性。兼容AI负载的数据中心将需要更大的规模和更高的功率可用性，以及更密集的光纤配置。此外，优先考虑绿色电源和实现更好的PUE也是必不可少的。
然而，其影响不仅限于基础设施。数据中心专业人员也必须不断发展以满足这一新形势的需求——发展AI专业知识以优化资源管理并与AI开发人员合作以确保负责任和安全的实施。
来源 | 千家网
编辑 | Cherry
