算力大战 台积日月光受惠

生成式AI的主体运算在于透过GPU进行机器学习后的训练及推论,辉达2020年推出Ampere架构A100,目前已被大量运用在大型资料中心、专业绘图、云端及边缘运算等领域,而辉达2022年推出新一代Hopper架构H100,配备最新的第四代NVLink互连技术,能够支撑巨型AI语言模型、深层推荐系统、基因体学运算、及复杂的数位孪生等运算。

辉达Ampere架构A100采用台积电7奈米制程,内含542亿颗电晶体,至于Hopper架构H100采用台积电4奈米制程,内含800亿颗电晶体,特别强化AI加速运算。

业界推算,每千万名生成式AI每日活跃用户(Daily Active User,DAU)所需求算力,约等同于2.4~3.0万颗资料中心GPU,换算需要350~400片12吋晶圆产能,随着算力需求的持续提升,台积电将直接受惠。

由于GPU运用在AI运算的关键在于记忆体频宽,业界目前都是采用先进封装技术将GPU及记忆体整合在单一封装,台积电提供InFO及CoWoS等先进封装,日月光投控VIPack先进封装平台也推出FOPoP量产服务,可望顺利承接生成式AI带动的GPU先进封装新订单,包括京元电、中华精测、颖崴等亦成为系统级测试及测试介面重要合作伙伴。

再者,生成式AI系统除了仰赖GPU提供核心运算,AI加速器及客制化演算法亦扮演重要角色,也需配合高速传输介面及高速网路来强化资料传输。

法人看好创意、世芯-KY、智原、M31、力旺等设计服务及矽智财(IP)业者可望受惠,包括提供AI系统整合的宜鼎、光通讯晶片供应商宏观、高速网路晶片厂瑞昱及亚信、USB高速介面的创惟及威锋等也可望顺利打进供应链。