半导体巨擘：AI将成IC设计业强大工具

手机大型语言模型(LLM)挑战

AI世代到来，IC设计挑战渐增。联发科资深处长梁柏崧博士指出，AI模型训练运算需求七年成长30万倍，比摩尔定律成长速度高上万倍，善用AI工具，将成为IC设计更早跨入AI世代的关键。联发科资深处长陆忠立博士分析，边缘AI面临三大挑战，记忆体数量、频宽限制及算力，将是未来需要克服的难题。

IEEE CASIF Taipei 2023，电路与系统协会的国际产业论坛12日登场，以AI时代的IC设计挑战为题，特别邀请台积电与联发科等半导体巨擘专题演讲。

梁柏崧表示，联发科将机器学习导入晶片设计流程，透过大型语言模型自我探索和学习，规划出晶片最佳电路区块，大幅缩短开发时间。AI模型推论、训练需求，将超越摩尔定律成长，AI也将成为IC设计业者的强大工具。

台积电张孟凡博士则分析，半导体无所不在，台积电在各种科技装置中扮演重要脚色；目前台积电3奈米已进入量产阶段，而AI世界需要更广泛的科技组合，各类型晶片如逻辑IC、RF、类比、MEMS，重要性不言可喻。

此外，大量资料及运算需求致算力需求提升，高效运算晶片成焦点，摩尔定律推进晶片厂发展进度，电晶体尺寸下降而数量倍增。与之同步的是，封装连线密度提升，促使台积电推动转向覆晶封装、2.5D、3D封装技术进程，双管并进之下，持续维持市场领先地位。

陆忠立以手机AI演进，分享联发科发展边缘AI的艰辛，早自2017年开始，AI就开始协助手机进行图像、瞳孔、脸部辨识等，并且在毫秒之间就能反映；第二阶段为电玩游戏，其中光追系统及动态帧数的进步，AI运算更扮演重要脚色；第三阶段则是AR／VR的衍伸，进一步让AI追纵手部、眼睛资料，甚至是肢体动作。

目前进入新的世代，主要围绕生成式AI发展，图像、影片的生成，及大型语言模型发展。将来毋须联网便能达成，并且可以发展出个人化的特色AI。

不过陆忠立强调，边缘AI仍有几大瓶颈，包含主记忆体数量不足，进行推论运算会占用一半以上的DRAM空间，另外频宽及算力限制，也是目前边缘AI必须要克服的关卡。