《科技》生成式AI发展趋势 成大5大咖校友齐探讨
成大电机系友会理事长暨旺宏(2337)董事长吴敏求表示,自担任成大电机系友会理事长以来,3年前首次推动「成电论坛」,探讨前瞻科技趋势,让师生与产业界近距离对话,激荡创意的火花。未来更将规画设置青年教授讲座,每位讲座每年提供100万元奖励,延揽杰出优秀的国内外年轻教授人才于成大任教,教授新知与传承经验,提升台湾科技整体的创新动能。
AI的快速发展推动科技再一次进步创新,记忆体也从资料储存逐渐走向幕前,扮演「存算一体」的关键角色。旺宏电子吴董事长指出,旺宏电子也超前部署致力研发以记忆为中心(Memory-Centric)的相关应用,例如最新推出的FortiXTM系列3D NAND/NOR快闪记忆体,就是旺宏研发团队为AI应用量身打造的创新记忆体,兼具储存及运算功能,相关技术论文近年于国际电子元件会议(IEDM)、国际固态电路研讨会(ISSCC)等全球顶尖学术研讨会上屡获瞩目。
第一届成电论坛探讨IC产业发展与布局,第二届则着墨电动车产业的发展与第三类半导体SiC在电动车产业的应用。今年2023年第三届则以引发改变世界热潮的「生成式AI」为论坛主轴,探讨生成式AI在各生态系的应用以及如何发挥极致价值,讨论现阶段及未来的契机与挑战。
东台严瑞雄董事长就「AI驱动的智慧制造」开启讨论,以机械专长来电机系谈AI主题。他提到,生成式AI的出现,让AI技术能在区分和理解数据上创造出新的解决方案和创意,解决智慧制造少量多样的挑战,大幅加速AI导入的时程。让生成式AI与现有AI的结合,拓宽智慧制造的应用范畴,也定义新的发展方向。
奇景光电陈有栋副总经理以「微型机器学习(TinyML)发展及应用」为现场带来不同的AI应用实例。他提到,未来10年人工智慧运算会从「云端」到「边缘端」蓬勃发展,而TinyML(微型机器学习)技术将人工智慧运算推向设备的最终端,结合感测器和嵌入式系统在终端以极低功耗,低成本,低延迟完成边缘机器学习运算,对于物联网,穿戴式设备,智慧家居,智慧健康监控和工业自动化等应用都带来突破性的发展,但也同时必须克服工程面的硬体设计,机器学习算法优化,开源工具链整合等问题,及商务模式上应用碎片化等问题;以奇景光电WiseEye平台为实例,透过整合低功耗影像感测器及终端人工智慧处理器,如何克服这些工程与商务的困难,并提出结合TinyML生态圈的未来发展方向。
耐能智慧刘峻诚执行长在成电论坛的尾声就「个人化GPT:未来在终端」进行分享。一上台,刘执行者就为现场展示没有连接网际网路的「私有化GPT」,举凡搜寻世界名人相关资料、语言翻译或写程式等该GPT的回复时间都很即时,随后他更强调这些技术小型电路就能实现,而且没有风扇、可以像积木一样堆叠,符合各式市场需求。他提到,考虑到运行ChatGPT所需的GPU计算资源可能导致碳排放增加和成本上升,这对实现AI的民主性构成挑战。终端算力NPU可同时解决延迟和隐私揭露问题,通过在边缘运行AI演算法,实现最小延迟,成本效益显著。