產學界看生成式AI的應用與挑戰／劉峻誠： NPU 的性價比最高

耐能智慧创办人暨执行长刘峻诚。 记者曾吉松／摄影

AI晶片新创耐能智慧创办人暨执行长刘峻诚昨（27）日表示，神经处理单元（NPU）可取代绘图处理器（GPU），让生成式AI应用更多元化，能耗、成本都较低，是可推动AI普及、性价比（C／P值）最高的下世代AI解决方案。

刘峻诚在专题座谈上，畅谈如何透过NPU，协助企业在切入AI应用的同时，解决最关键的能耗问题。

刘峻诚举例，进行一次ChatGPT搜寻所消耗的电，能将一只小鸡烤熟，耗电量相当庞大，而广达先前在伺服器中导入耐能产品，发现降低75%至80%的能耗，中华电信导入后，营运成本也降低85%

刘峻诚表示，耐能2015年就开始做NPU，虽然不像通用型GPU，但专攻AI应用，多年来一直想告诉市场，「这是最适合AI时代的解决方案」，而去年底英特尔也开始走向NPU。

除了能耗问题外，刘峻诚指出，从目前金融业、制造业上看到的痛点之一，就是机密资料无法传输上网，而NPU是封闭式的AI，相对没有资安问题，也不会像开放式AI一般，被大众喂养大量错误资讯后，产生错误判断。

刘峻诚说，今年COMPUTEX中，将揭露与笔电厂、板卡厂、车厂等产业的合作计划，他认为，NPU将是下世代AI应用的趋势，「我们毕竟是先行者，这也是我们的机会」。