NVIDIA攜手Hugging Face 推出以NVIDIA NIM微服務為基礎的推論即服務平台

今年在GTC 2024期间宣布推出结合人工智慧模型与加速运算应用资源的NVIDIA NIM微服务平台，日前更宣布结合Meta近期释出Llama 3.1开源模型、搭配NVIDIA AI Foundry服务，让开发者或企业能更快打造各类客制化AI应用功能，在此次于丹佛举办的SIGGRAPH 2024期间更宣布携手Hugging Face，推出以NVIDIA DGX Cloud云端平台运行NVIDIA NIM微服务为基础的推论即服务平台 (IaaS,Inference as a Service)。

NVIDIA NIM微服务是以对应CUDA运算架构的GPU进行加速，并且能以预先训练人工智慧模型运作，借此打造各类人工智慧应用服务，可在最佳化调整后布署于云端、资料中心、工作站及PC使用。

由于本身采用容器化设计，因此结合NVIDIA旗下GPU加速，快速套入人工智慧模型、API等资源，即可在短时间内建构各类人工智慧应用服务，同时能让开发者、企业能以更简单方式布署使用。

而在近期宣布与Meta合作，透过结合Llama 3.1开源模型、搭配NVIDIA AI Foundry服务与NIM微服务，更快打造各类客制化AI应用功能，进而降低各个企业导入人工智慧应用服务门槛。

此次宣布与Hugging Face合作，则将以NVIDIA NIM微服务为基础，结合以NVIDIA H100 GPU构成的DGX Cloud云端平台，借此让布署于Hugging Face平台的NVIDIA NIM微服务资料吞吐量可提高达5倍，同时也能透过Llama 3.1等最新模型打造各类微服务，更可确保相关API使用稳定性、安全性，以及企业端应用技术支援。

另外，NVIDIA也宣布升级NIM微服务功能，借由加入Llama 3.1开源模型等新资源，借此对应更多应用可能性，目前已经可透过「ai.nvidia.com」网站取得超过100款人工智慧应用微服务应用范本。

在与Getty Images合作部分，则是将先前推出的影像自动生成微服务NVIDIA Edify NIM升级，则是进一步强化输入描述指令认知与影像生成品质，并且能依照描述生成不同镜头拍摄焦段范围、景深表现，以及提供4K画质影像的细节表现，让使用者能透过Getty Images的iStock服务产生更多可实际商用的影像内容。

至于在与Shutterstock合作部分，则是同样借由升级版NVIDIA Edify NIM功能，让Shutterstock旗下Generative 3D工具可生成高品质、可直接编辑使用的3D模组，同时也能产生16K 360 HDRi规格的背景与3D光源，目前将以beta形式提供测试使用。

《原文刊登于合作媒体mashdigi，联合新闻网获授权转载。》