顶尖OEM厂商推全球首批NVIDIA认证系统 因应AI作业负载

包括技嘉、Supermicro、慧与戴尔浪潮顶尖加速伺服器制造商现已将NVIDIA认证系统准备就绪。(图/业者提供)

人工智慧 (AI) 是当今最强大的技术,需要透过新一代电脑调校测试,以推动其前进发展。从今天起,资料中心可以透过 NVIDIA 的合作伙伴取得最新的加速伺服器支援,以运行各项 AI 与资料分析作业。顶尖的系统制造商将推出首批 NVIDIA 认证系统,此为业界唯一针对现代运算作业负载进行测试的伺服器。

借助NVIDIA最新搭载 NVIDIA Mellanox 网路的 GPU,这些系统能够加速处理 AI 作业。这些系统从不断增长的海量企业资料中,挖掘传统系统遗漏宝贵资讯,进而提升机器学习的技术。

戴尔 (Dell Technologies)、技嘉 (GIGABYTE)、慧与科技 (HPE)、浪潮 (Inspur) 及美超微 (Supermicro) 纷纷推出取得认证的伺服器。NVIDIA 正与全球顶尖 OEM 厂商合作,推动 AI 在各个产业的发展。

首批采用 NVIDIA A100 Tensor 核心 GPU 的系统包含Dell EMC PowerEdge R7525 与 R740 机架式伺服器。GIGABYTE R281-G30、R282-Z96、G242-Z11、G482-Z54、G492-Z51 系统。HPE Apollo 6500 Gen10 系统及 HPE ProLiant DL380 Gen10 伺服器。Inspur NF5488A5。Supermicro A+ 系统 AS-4124GS-TNR 及 AS-2124GQ-NART。

以上产品皆附上 NVIDIA 认证系统的标章,让客户能够放心地买到符合 NVIDIA 最佳设计的系统,这也意味着这些系统可以处理机器学习、资料分析等领域中最具挑战性任务

随着各大企业纷纷开始采用 AI,现在正是推出这些系统的最佳时机。

美国运通 (American Express) 使用最新的 AI 模型进行即时诈欺侦测;福特 (Ford) 利用生成对抗网路来产生测试自动驾驶车所需的资料;达美乐 (Dominos) 则利用 AI 技术改善每年30亿个披萨外送订单准备时间的预测

他们是众多采用全新强大运算形式作业的企业之一,这种运算形式诞生于网路,且正扩展至零售物流、金融及医疗保健等各行各业。

据 Gartner 估计,现有 37% 的组织在生产过程中使用 AI 技术,预估至 2024 年,这个比例将翻倍达到 75%。

每间公司都想在不断增长的海量资料里,找出具策略价值的洞察。例如,Walmart 超市每个小时需要处理超过 2.5PB 的资料量。

用于筛选海量资料的 AI 模型数量在短短五年内成长了近三万倍,也因此推动了对加速运算的需求。而使用的模型多样性和作业负载也不断增加,因此,企业需要具灵活性的 GPU。

资料量与用于筛选资料的 AI 模型皆不断成长,使得资料中心和网路边缘流量呈指数增长。为此,企业需要一个安全、可靠、高速,并且可以有效扩大规模的基础设施

NVIDIA 认证系统可提供企业 AI 所需的效能、可程式化特性及安全处理能力。这些系统结合了采用 NVIDIA Ampere 架构 的 GPU 的运算能力,以及安全的 NVIDIA Mellanox 高速网路解决方案

为取得认证,系统需针对各种作业负载进行测试,包含从需要使用多个运算节点的作业,到只需单一 GPU 的部分运算能力即可完成的任务。

这些经过最佳化的系统能够运行 NGC 目录中的 AI 应用程式,NGC 目录为 NVIDIA 针对 GPU 最佳化的应用程式中枢

在 NGC 中也能使用持续增加的软体开发套件,这些套件将 AI 带入如医疗保健 (Clara) 和机器人 (Isaac) 等垂直市场。此外,NGC 也提供框架,协助企业开始使用如推荐系统 (Merlin) 与智慧影像分析 (Metropolis) 等新兴的使用场景

具体来说,NVIDIA 认证系统必须通过以下测试,包括深度学习训练与推论、机器学习演算法、智慧影像分析、网路与储存装置卸载等。

测试内容着重于实际的使用场景上,并在 NGC 目录中取得热门的 AI 框架和容器。因此,NVIDIA 认证系统让每间公司都能取得与部分全球最强大的 AI 电脑背后相同的软硬体

全球最大的云端服务供应商以及全球排名前十大的超级电脑中,有八台皆采用 NVIDIA 的技术。而采用 NVIDIA 技术的系统,在 MLPerf 等 AI 基准测试中皆拔得头筹

NVIDIA 认证系统包含功能强大的资料中心伺服器,其搭载多达八个 A100 GPU 和高速 InfiniBand 或乙太网路介面卡。其它包含为在企业网路边缘运行 AI,而量身打造的主流 AI 系统。

OEM 厂商使用 NVIDIA Mellanox 电缆交换机,以及如 ConnectX-6 InfiniBand 或乙太网路介面卡和 BlueField-2 DPU 等网路卡,对系统进行认证。这些网路卡除了拥有低延迟、高处理量特色,还支援从启动时的硬体信任根到应用程式的连接追踪等多层安全保障。

每套系统皆使用 NVIDIA Mellanox 8700 HDR 200G InfiniBand 交换机或 Mellanox SN3700 乙太网路交换机进行认证。

所有 NVIDIA 认证系统均能获得包括开放原始码在内,完整软体堆叠的企业级支援服务。因为我们希望能够确保所有垂直市场的企业都能快速享受到 AI 带来的好处。

截至目前,已有6个系统制造商的14台伺服器取得认证,并提供加速运算服务。目前至少有11个系统制造商的近70套系统参与这项计划。