NVIDIA推出AI Enterprise软体套件
绘图晶片大厂NVIDIA(辉达)宣布推出 NVIDIAR AI Enterprise,这是一套全方位的企业级人工智慧 (AI) 工具和框架软体套件,由 NVIDIA 提供最佳化、认证及支援服务,专供今日另外宣布推出的 VMware vSphere 7 Update 2 使用。
NVIDIA 与 VMware 这项业界首见的合作所开发出的 AI-Ready Enterprise 平台,透过 NVIDIA 的 NVIDIA AI Enterprise 套件,在 VMware vSphere 上以虚拟化的方式运行 AI 作业负载。这项产品为企业提供专为开发广泛 AI 解决方案所需的软体,例如医疗照护领域的进阶诊断、制造业的智慧工厂与金融服务领域的诈欺侦测。
借助NVIDIA AI Enterprise 套件,在数十万家企业中使用 vSphere 进行虚拟化运算的 IT 专业人员,现在可以透过用来管理大规模资料中心及混合云环境的相同工具来支援 AI。NVIDIA 软体套件可在 vSphere 上提供具横向扩展的多节点 AI 应用效能,其表现与裸机伺服器丝毫没有差别。
NVIDIA 企业与边缘运算部门副总裁暨总经理 Justin Boitano 表示,直到现在,全世界都还是在裸机伺服器上运行 AI 运算作业。NVIDIA AI Enterprise 套件让客户能够将开发 AI 模型的时间,从原本的八十周缩短到仅八周,也让客户能够以与裸机同等的横向扩展性和破纪录的 NVIDIA 加速运算效能,在 VMware vSphere 上部署及管理进阶的 AI 应用。
VMware 云端平台事业部行销副总裁 Lee Caswell 表示,各个企业都在设法让他们的基础设施变得更现代化,以满足 AI 应用的需求。VMware 的客户在取得 NVIDIA AI Enterprise 与 vSphere 7 Update 2 后,就能在其虚拟化资料中心快速追踪 AI 的运算表现,并为其现代的应用轻松部署经认证且可用于 AI 的基础设施。
Optum Technology 的资深首席工程师 Justin Potuznik 表示,在 Optum 为 United Healthcare 所提供的资料驱动服务中,AI 所扮演的角色日益吃重。在我们的 VMware vSphere 环境上运行 NVIDIA 的 AI Enterprise 软体和基础设施,我们便能支援现代各项应用的作业负载,以企业级规模高效率地部署 AI。
NVIDIA AI Enterprise 套件相容于多种在混合云环境中运行的大量加速 CUDAR 应用程式、AI 框架、预先训练好的模型及软体开发套件。在经过最佳化调整后的作业负载可以横跨多个节点,以完全的 GPU 虚拟化支援大型的深度学习训练模型。
VMware vSphere 7 Update 2 现在已经通过认证,可以搭配 NVIDIA 认证系统? 上运行的 NVIDIA A100 Tensor Core GPU 使用,以支援 NVIDIA AI Enterprise 套件内的各项应用,推出的厂商包括戴尔科技 (Dell Technologies)、慧与科技 (Hewlett Packard Enterprise)、Lenovo 及美超微电脑 (Supermicro)。有了这项认证,NVIDIA 将直接提供客户支援服务给具备 NVIDIA AI Enterprise 授权的 vSphere 客户。
NVIDIA 亦认证 vSphere是唯一一款可透过 NVIDIA 多执行个体 GPU (MIG) 技术进行即时迁移的运算虚拟化软体,每个 A100 GPU 可运用 MIG 技术在硬体层面分割成最多七个执行个体,将各种规模的作业负载执行效率提升到最高。
另外,NVIDIA ConnectX 智慧网卡现在也取得 VMware vSAN over RDMA (Remote Direct Memory Access,远端直接记忆体存取) 认证,这项技术能够减轻 CPU 通讯任务的负担,提高应用的执行表现与基础设施的投资报酬率。
NVIDIA AI Enterprise 套件以永久授权的方式提供,每个 CPU 插槽的费用为 3,595 美元。NVIDIA AI Enterprise 套件的企业级标准支援服务的年费为每张许可证 899 美元。客户预计升级到 VMware vSphere 7 Update 2 时,可以先申请早期试用 NVIDIA AI Enterprise。