辉达EGX EDGE AI平台 为所有企业的边缘挹注智慧

NVIDIA (辉达) 今天宣布引领全球科技公司广泛采用 NVIDIA EGX 人工智慧 (AI) 平台,为企业边缘资料中心带来一波安全且经 GPU 加速的软体服务伺服器

数百家具有远见的AI、5G、CloudRAN、安全与网络公司,皆与主流的伺服器制造商合作,包括戴尔科技 (Dell Technologies)、浪潮 (Inspur)、联想 (Lenovo) 和美超微 (Supermicro),软体基础架构供应商如Canonical、Cloudera、红帽 (Red Hat)、SUSE 和 VMware 也运用NVIDIA EGX平台来帮助企业将AI带入边缘。

全球规模最大的产业都将受益于 EGX 平台,并能快速且有效率地大规模部署 AI,包括制造、医疗保健、零售物流、农业、电信公共安全广播媒体。

NVIDIA 亦宣布 EGX 平台将在单一 PCIe 卡上结合 NVIDIA Ampere GPU 和 BlueField-2 DPU 的功能,为企业建构安全、加速的资料中心通用平台。BlueField-2 DPU 包含功能强大的 Arm CPU 核心,可创造一个可信赖区域以在 GPU 中运行 AI 推论模型

NVIDIA 创办人执行长黄仁勋在 GPU 技术大会的主题演讲中宣布了此消息并表示,世界各地的公司将运用 AI 来改善其业务的各个层面。为了支援这个大规模的转变,NVIDIA 创造了一个加速运算平台,协助公司将其资料中心现代化并能恣意部署 AI。

EGX 平台的核心是 NVIDIA NGC 所提供经过优化的 AI 软体堆叠,该软体目录拥有一系列专为特定行业提供的 AI 工具包预先训练的模型,从而让在 NVIDIA 认证的系统中建构和部署 AI 应用变得更加容易。

一流的 AI 软体供应商使用 NVIDIA AI 应用程式框架,来建构并部署医疗保健、零售、物流和智慧城市解决方案,包括 Deep North、Everseen 和 Whiteboard Coordinator。

NVIDIA vGPU 软体产品和 GPUDirectR RDMA 技术使 NVIDIA GPU 能够以全频宽发送和接收资料,以达到最高效能

为了协助企业大规模部署 AI,NVIDIA 与 Canonical、Cloudera、红帽、SUSE 和 VMware 等一流的平台公司合作,为旗舰产品虚拟化、操作系统、Kubernetes 和资料分析平台在裸机或虚拟环境中运行时,专为 NVIDIA AI 软体进行全面优化。

未来的企业资料中心不会在同一个地点设置 10,000 台伺服器,而会在 10,000 个不同的地点建置一台或多台伺服器,包括在办公大楼工厂仓库、基地台、学校、商店和银行。

为了简化并确保在这些伺服器上大规模部署 AI 应用和模型的安全,NVIDIA 宣布一项名为 NVIDIA Fleet Command? 新服务的早期试用计划,此混合云平台将边缘运算的安全性和即时处理功能与远端管理及软体即服务 (SaaS) 相结合。

Fleet Command 透过统一的控制平台集中管理分布广阔的伺服器,包括工厂、医院、零售商店甚至城市街道。Fleet Command 的一键式配置、无线软体更新、远端管理和详细的监控仪表板使营运团队能更轻松地减轻 IT 负担,以充分运用其 AI 应用并提高营运效率。

全球供应链解决方案的领导者凯傲集团 (KION Group) 是最早试用 Fleet Command 的公司,该公司使用 NVIDIA EGX AI 平台为其智慧仓库系统开发 AI 应用,进而提高零售配送中心的运量和效率。

此外,在伊利诺州排名第一、全美排名前十的西北纪念医院 (Northwestern Memorial Hospital) 正与 Whiteboard Coordinator 合作,将 Fleet Command 用于其 IoT 感测器平台,并在其诊间和医疗中心运用电脑视觉语音辨识和蓝牙追踪功能。

Whiteboard Coordinator 执行长暨董事总经理 Andrew Gostine 表示,Whiteboard Coordinator 与引领业界的医疗保健服务供应商合作,可以随时随地从云端存取他们的应用程式、伺服器和软体部署。透过 NVIDIA Fleet Command,我们只需要点几下即可横跨多家医院、远端部署并安全地管理一整套医疗保健 AI 应用。这让我们能用更多时间专注于为病患提供价值,而非花费数小时在管理基础架构。