耐能智慧创办人暨执行长 刘峻诚 无限延伸AI晶片需求

耐能智慧(Kneron)创办人暨执行长刘峻诚。图/李娟萍

AI新创业者耐能智慧(Kneron)创办人暨执行长刘峻诚最近很火红,成大电机系92级毕业的他,不只受到母校欢迎,清大及交大也争相邀约他到学校讲座,他将演讲的PPT写成书,成为热门的AI教科书。

刘峻诚为何炙手可热?因为他是AI晶片量产先驱。他日前在成电论坛演讲时透露,当初宣布推出AI晶片时,大家都笑他,但现在耐能智慧的晶片,效能却可以跟世界一级大厂平起平坐。

刘峻诚日前在成电论坛以「个人化GPT:未来在终端」为题进行分享,他一上台,就为现场展示没有连接网际网路的「私有化GPT」,举凡搜寻世界名人相关资料、语言翻译或写程式等,该GPT的回复时间都很即时,甚至可以一张他自己的照片,同时化身成年轻人、老年人,流利地口说国、台语及英、日语,英文如果觉得不够标准,也可以马上调整口音。

刘峻诚强调,这些技术透过小型电路,就能实现,而且没有风扇、可以像积木一样堆叠,符合各式市场需求,引发现场与会人士诸多好奇。

当有人询问他,为何耐能智慧的神经网路处理器(NPU),以小小一个盒子,可以做到需要大型AI伺服器、好几颗GPU晶片运行的算力?刘峻诚直白地回答说:「因为我们很厉害。」

耐能智慧自2015年成立,迄今已经获得了超过1.9亿美元融资,并得到了李嘉诚旗下的维港投资、高通、红杉资本、富士康、和顺兴基金、光宝、华邦、旺宏、台达电集团等企业的支持。

耐能智慧自研的高能效轻量级可重构神经网路架构,解决了边缘AI设备所面临的三个主要问题,亦即延迟、安全性和成本。

随着资料 量爆炸性增加,人们面临着终端和云端之间的资讯传递延迟,迫切需要即时决策,而网络延迟则需要极力缩小。

而ChapGPT聊天机器人的崛起,证明AI在以前被认为无法替代的知识型工作中的能力。但基于意识形态的模型训练结果,需要谨慎校正,以免引发隐私问题。

此外,AI应用的爆发式发展,也产生了巨大的能源消耗,未来 电费将占据整体运维成本的40%。目前碳中和已是大势所趋,全球范围内的多家大型公司已要求其供应链实现净零排放,以促进可持续的绿色发展。

更高算力,更优异的性能及更实惠的成本,都是客户考虑的因素,也对AI晶片提出了更高的要求。

刘峻诚指出,终端算力NPU可同时解决延迟和隐私揭露问题,通过在边缘运行AI演算法,实现最小延迟,成本效益显著。

耐能智慧近期推出最新的超轻量级AI晶片,将Transformer(通常应用于语言处理)应用于图像处理上,充分发挥了Transformer处理时间序列和整体图像数据的能力。

通过提高上下文处理和数据处理能力,耐能至少提高了30%的图像处理应用准确度,这对于实现自动驾驶来说,是一项重大进步。

刘峻诚说,耐能智慧的车规AI晶片,可以跟世界级的晶片厂一起竞争,因为其测试地点在台湾,台湾的摩托车骑士技术高超,可以充分展现自动驾驶方面AI晶片的辨识能力。

虽然GPU晶片目前在市场上占据主导地位,但耐能智慧正在开发更多适合人工智慧计算的NPU晶片,刘峻诚信心满满地认为,耐能智慧AI晶片与CPU及GPU不同,可以做到私有化及安全性,他相信,未来AI晶片将是由耐能智慧定义。随着AI需求的爆发,该公司仍有无限延伸的可能性。