凌华科技 加速生成式AI边缘应用
生成式AI效能突破:DLAP Supreme系列透过aiDAPTIV+技术,有效突破地端设备的记忆体限制与性能瓶颈,提升推论速度8倍,并可支持大型语言模型训练。图/凌华提供
全球边缘运算领导品牌凌华科技(6166)推出全新「DLAP Supreme」边缘生成式AI平台系列,通过整合群联电子的创新AI解决方案aiDAPTIV+,突破地端生成式人工智慧(AI)应用中的记忆体限制,显著提升地端设备的AI运算能力。除了帮助企业降低AI应用部署的成本门槛,并加速生成式AI在各行各业的落地应用,尤其在地端AI运算领域。
随着生成式AI逐步渗透至各行各业,许多地端设备在执行大型语言模型时,面临因DRAM容量不足而造成的性能瓶颈,影响模型运行,甚至出现Token长度不足等问题。DLAP Supreme系列利用aiDAPTIV+技术,有效突破这些限制,并显著提升运算效能,借此支援地端设备进行生成式语言模型训练,使边缘设备具备AI模型训练能力,并提升其自主学习与适应能力。
凌华科技边缘运算平台事业处总经理陈少华表示:「我们希望通过DLAP Supreme系列,帮助更多企业和机构轻松导入生成式AI技术,并在降低成本的同时,提升效能。我们将继续与群联电子及全球AI领域的合作伙伴携手合作,共同打造多方协作的AI应用生态圈,推动生成式AI技术的普及。」
群联电子执行长潘健成表示:「群联与凌华在工控储存市场携手合作已超过10年,一路以来,我们共同推动技术创新,致力于为产业提供最具价值的解决方案。这次,群联推出的边缘AI技术方案aiDAPTIV+,很高兴能协助凌华打造以 NVIDIA Jetson AGX Orin 平台为基础的全新DLAP Supreme边缘生成式AI系列,这不仅是一项重要的合作里程碑,更将在边缘AI的发展上掀开新篇章。透过双方的深度合作,我们将共同加速并扩大边缘AI在模型fine-tuning的应用及市场,特别是在智慧制造、智慧城市及其他产业场景中的实际应用。」
DLAP Supreme系列的推出,不仅为地端生成式AI应用开创了全新机会,还将帮助各行各业突破记忆体限制,充分释放AI技术的潜力。凌华科技计划持续推出Orin Nano Super与NX Super版本,满足不同需求的AI运算场景。