恩智浦携手NVIDIA 加速边缘AI部署

恩智浦与NVIDIA携手合作 整合TAO工具套件至恩智浦边缘装置。图／恩智浦提供

在人工智慧（AI）日渐蓬勃发展的今天，如何将训练好的AI模型顺利部署到边缘装置以发挥实际运算能力，是许多企业和开发者所面临的重大挑战。为解决痛点，恩智浦（NXP）与AI巨擘NVIDIA，在本届NVIDIA GTC大会期间宣布达成重要合作，整合NVIDIA的TAO工具套件API至恩智浦的eIQ机器学习开发环境，为开发者提供一条高效、便捷的AI模型部署之路。

作为业界首家将NVIDIA TAO工具链直接内嵌至自家AI软体平台的晶片供应商，意味着开发者在未来只需在恩智浦eIQ环境中操作，即可轻松存取NVIDIA丰富的AI模型资源库，并透过TAO强大的模型微调和优化功能，针对特定应用场景对预训练模型进行修改和最佳化，随后再将调整后的模型无缝部署到恩智浦众多边缘运算产品之上，展现实际推理运算能力。

值得一提的是，TAO工具套件内建的Transfer Learning技术，可大幅减少AI模型从头开始训练的工作量，让开发者只需较小的训练资料集，即可有效调校既有模型做出所需修改，真正实现AI模型的高效重复利用。

本次恩智浦与NVIDIA的合作，不仅能够加速边缘AI部署的全流程，更有助于拓展AI的产业应用范畴。恩智浦资深副总Charles Dachs表示：「无论是工业、物联网或其他新兴应用领域，边缘AI都将成为推动创新的关键动能。本次与NVIDIA的整合将让我们的客户能更高效地将AI模型应用于边缘运算产品，大幅提升开发速度，拥抱智慧物联的浪潮。」

NVIDIA则期待透过这项整合，进一步将先进的生成式AI模型推向边缘运用。NVIDIA机器人与边缘运算副总裁Deepu Talla说：「TAO提供的高效模型训练和部署能力，加上恩智浦边缘处理器的优异运算实力，势必能催生更多创新应用的涌现。」半导体与AI两大巨头的跨界联手，使人工智慧的创新能量加速在终端边缘绽放光芒。