核电议题! 「小子直球对决教主」台下骚动

▲耐能创办人刘峻诚,以NPU挑战当前最流行的GPU教主与核电议题。(图/CTWANT提供)

图文/CTWANT

首场「国家气候变迁对策委员会」8月8日启动,4小时的能源议题讨论中,核电从「反核」或「拥核」是非题,转为「多选题」,担任副召集人的和硕董事长童子贤以深知企业购买绿电苦楚而力挺核电,尤其台湾经济迈入AI新世代,「没电力」就等于「没国力」。

童子贤挺核主张,关键源自ChatGPT问世掀起全球AI人工智慧巨浪,辉达执行长黄仁勋被冠上「AI教父」,然而独霸AI晶片市场的辉达GPU,跑出超级算力也极度耗电,成了「吃电怪兽」,科技大咖急寻解方。

不过,「『CPU+GPU+NPU』能一举解决AI设备又贵又耗电的痛点。」这话出自43岁的耐能(Kneron)创办人暨执行长刘峻诚。

凯米台风袭台前夕,台北市电脑公会7月23日举办「迎向AI新时代-从COMPUTEX看台湾资通讯产业的下一步」记者会,CTWANT记者观察,现场座无虚席,宾客不畏风雨,就是为了听童子贤的AI与核电看法。

记者会上,主持人做球给童子贤,将话题转向能源议题。童子贤滔滔不绝地解释,台湾去年用电2821.4亿度,3、4年后就会超过3000亿度,若一度发电成本差1元,一年就要多花三千亿元,「如果搭配3成绿能、3成核能,以及4成火力发电,这样经济效率较高的排列组合,省下经费就可以弥补健保的缺口、高等教育跟研究的需求,这样更有意义。」

「没电力就没算力,没有算力就没有国力!」童子贤慷慨激昂地开出解方,必须要重新考虑核电,其他大老也连连赞同时,轮到坐在最边边的第七位演讲者,却说出不同看法。

「完整的(AI运算)系统应该是CPU+GPU+NPU」,而非单纯用GPU跑AI,因为代价太大,用了NPU这样的低功耗晶片后,「就不需要像童董事长一直在讲的,甚至要盖核电厂才有电力去支持这种运用。」刘峻诚一开口,竟然直球对决童子贤,台下引起一阵骚动。

▲图为气象署第6代高速运算电脑,也建置GPU架构系统。(图/资料照/CTWANT提供)

不同处理器在AI系统中扮演不同角色,CPU(中央处理器)为电脑核心处理单元,负责执行和控制,处理基本运算和逻辑运算,GPU(图形处理器)为了图形和影像处理而生,擅长并行处理大量数据,随深度学习兴起,被广泛应用于AI运算中,NPU(神经处理器)专为AI推理任务设计,能在低功耗情况下高效执行深度学习模型。

在辉达GPU制霸下的AI算力有多耗电?国际能源总署(IEA)提到,使用Google搜寻网路,平均每次耗电0.3Wh,使用ChatGPT平均耗电2.9Wh,将近十倍。高盛证券预估,2023年至2030年间,全球AI资料中心对电力需求将增长160%,特斯拉执行长马斯克甚至忧虑,未来两年「晶片荒」将转为「电力荒」。经济部能源署也「保守估计」,在AI带动下,我国用电量10年将增加32%,拉高到3641亿度左右。

据此,当各国及科技龙头展开AI算力军备竞赛,巨资向辉达购买GPU,同时也面临接踵而来的耗电与排碳问题。

Supermicro美超微全球业务资深副总裁周政贤向CTWANT记者表示,AI运算要大量的电,部分是为了散热,所以「液冷」技术开始受重视,毕竟「新设电厂在许多国家,都不是件容易的事。」IP矽智财大厂安谋Arm执行长瑞恩‧哈斯日前也表示,到2030年,AI资料中心会消耗美国电力20到25%,比现在的4%大幅增加,所以他们现正砸钱研究如何降低人工智慧技术的功耗。

NPU业者刘峻诚给出另一个方向,「GPU其实不适合跑AI,因为他太贵、太耗电,台湾总不能到处都盖核电厂。」「如果我们把NPU真正发扬光大,台湾就不会在AI时代只是个制造和代工业,是我们能真正掌握、自建专属台湾且有影响力的AI。」

▲AI时代需要大量电力,让核电厂的存废引发各界关注。(图/资料照/CTWANT提供)

「年底有好几家云端大厂,已经非常明确要做『类NPU』架构,而且是国际的一线大厂,这事正在发生!」刘峻诚得意地向CTWANT记者说。

事实上,英特尔去年推出的新款Core Ultra处理器晶片,测试20次AI图像生成时发现,NPU执行任务要20.7秒,仅花CPU一半的时间,功耗更降低75%,只有10瓦,优于GPU的37瓦,整体效率提升7.8倍,若将NPU与GPU结合使用,处理时间更仅需11.3秒,最后推出结合三种模式的晶片。

一位业内人士向CTWANT记者表示,这类型CPU+GPU+NPU的做法,会越来越普遍,虽然GPU的算力还是比较强,但应用在消费性电子产品上,NPU的省电优势不容小觑,而辉达GPU独霸的AI高算力系统,要如何摆脱吃电怪兽的桎梏,大家也拭目以待。

延伸阅读▸ AI新势力2/「不拿坦克车钻巷子!」 刘峻诚力推高效省电NPU让人工智慧更普及▸ 星生代/赵娟周高三毛遂自荐加入啦啦队 兼顾学业身体亮红灯▸ 澳洲父亲不满母女家中说中文「感觉不舒服」 混血正妹为练习每年来台