近年来，由于人工智能(AI)具有自动执行重复流程，提供新的战略见解并加速发展的能力，因此它已成为竞争激烈的市场中企业的游戏规则改变者，例如机器人，金融服务，自动驾驶汽车等。革新。麦肯锡的研究表明，由于将AI集成到业务流程中，因此63%的企业增加了收入。而且，随着社会继续向数字化转变，采用AI只会对跨行业和跨地区的企业变得越来越重要。

但是，即使随着AI采用率的增长，构建大规模支持AI所需的基础架构也日益成为挑战。实际上，有40%的企业认为缺乏IT基础架构是实现AI的主要障碍，而45%的企业则认为的企业表示，当前的基础架构无法满足AI工作负载的未来需求。

诸如机器学习之类的传统AI方法不一定需要大量数据。但是随着深度学习和IoT / 5G的出现，从工厂，智慧城市，无人驾驶汽车，边缘设备等生成的数据量越来越大。设计能够利用该数据进行AI的基础架构非常复杂。但是从一开始就把它弄好是很重要的，因为必须重新设计或移动AI部署会涉及大量成本(时间，金钱和资源)。

让我们看一下企业实现大规模AI的理想基础架构是什么样的。

人工智能工作负载的理想基础架构

为了利用不断增长的AI数据量，企业需要两项基本功能：访问数据的能力，以及近实时快速计算和处理大量数据的能力。

在访问数据方面，企业需要高度的连接性，以将数据从边缘引入数据中心以分析和构建模型，并将模型和数据发送回边缘以优化推理。这需要靠近节点以从现场，办公室和制造设施的设备中取回数据。某些AI工作负载和用例将针对云进行优化，并且需要以安全，高效的方式管理直接云访问。地理可扩展性也很重要，它使企业能够支持不同位置的AI工作负载并减少延迟以实现更快的交付。

一旦数据进入数据中心，企业就需要高密度的支持来进行训练模型的计算。如今，大多数企业数据中心无法管理足够高的密度来支持计算，而随着密度的增加和数据创建的增加，密度将继续加速，这将仍然是一个挑战。也许同样重要，基础架构需要高度可扩展。可扩展性是AI计划成功的关键因素，因为大规模运行硬件(GPU)的能力可带来可提供宝贵见解的大规模计算的效果。

AI基础架构部署的选项

基于围绕连接性，功率密度和可伸缩性的这些要求，有一些部署选项，包括本地解决方案，公共云或托管。