AI風行 晶片大廠搶地盤
【文/李纯君】
AI PC/NB将带来记忆体、高速传输晶片、电源管理晶片、触控晶片、麦克风晶片等周边晶片的升级,不少台系晶片设计业者获益良多。
ChatGPT风行,AI在2023年成为市场最夯的科技话题与趋势,而Nvidia创办人黄仁勋的黑皮衣旋风更是席卷全台,Nvidia与黄仁勋,瞬间都变身成为AI晶片的代言人,但实际上,AI的战火已经悄悄从云端打到边缘,边缘运算正如火如荼窜起,而隐形的AI商机「ASIC趋势」,大饼更是诱人。
首先就来先定义什么是AI(人工智慧)。人工智慧,最简单也最粗浅的讲法,就是让电脑和机器更有脑子,可以辨别、推论、学习、分析以及采取行动,尤其透过大数据资料可以精密计算,替问题找出解答。
截至2023年底,较为成功的AI都集中在云端,因为庞大的数据运算粒子,暂时必须在云端才能运算,也因此,目前的AI主战场,还是在云端伺服器上,并形成Nvidia、Intel、AMD三强争霸的局面,然Nvidia至今明显占据优势、独强,但实际上三者诉求市场并不完全相同。
三巨头盘据云端主战场
目前在伺服器端俗称与认定的AI晶片,主体在CPU,并搭配能加速AI运算的GPU或加速器,主要还是Nvidia和AMD的主战场。
首先在Nvidia部分,就是H100,黄仁勋曾公开揭露,GPU为AI带来革命,H100是封装了800亿个电晶体的巨大晶片,且仅一颗H100就可以维持每秒40TB的IO频宽,20个H100甚至可以维持全世界网路的流量,此晶片更可推动极大规模的AI语言模型、深度学习系统、数位生物学和数位孪生领域的发展。
H100是采台积电四奈米代工制程产出,并由台积电透过CoWoS封装完成,但目前供不应求,主要卡在台积电CoWoS封装产能不足上,而简单来说,Nvidia在AI的大成功,受益者除Nvidia本身外,就是台积电。
这个AI布建的浪潮也蔓延到中国大陆,陆系业者亦积极抢买Nvidia的AI晶片,然美中贸易战火持续激烈,美国多道禁令阻止Nvidia将AI晶片销往大陆,只是上有政策、下有对策,美国针对Nvidia的每一款AI晶片进行逐一审查,而Nvidia则是将不能销售的晶片改以降阶改版来应对,以维持在中国市场的营收表现。至于H100的下一代H200,则预计2024年中推出。
至于同为GPU大厂的AMD,在AI领域也不甘示弱积极还击,宣布推出MI300,2023年第四季量产,这款AI晶片更具模组化概念,是在单一介面上,包括由台积电五奈米代工的GPU,加上台积电代工的六奈米CPU,再加上HBM组合而成,而其封装方式则更结合了CoWoS跟Chiplet,因此完成后的封装尺寸明显大过Nvidia的同款产品。
事实上,AMD的MI300和Nvidia的H100是相对应的晶片,也是现今市场上最主流的两款AI晶片。除了Nvidia黄仁勋对AI极度看好外,AMD执行长苏姿丰也公开表示,针对数据中心而设的AI晶片,市场发展潜力巨大,2023年的规模为450亿美元,未来四年可达到4000亿美元。她也直言,MI300已经获得多家大型客户承诺采用,预计推出的第一个季度可替公司带入四亿美元的营收,2024年赚进20亿美元营收。
上述不论AMD的MI300和Nvidia的H100,强项在训练,因为GPU的training较有效率,至于英特尔的Gaudi强项是推论。
英特尔的Habana Gaudi2,其实在2023年第一季就量产上市,采台积电七奈米制程产出,英特尔更曾公开揭露,Gaudi2获得百度智慧云、浪潮资讯、美团、紫光新华三等中国大陆业者采用。而下一代的Gaudi3,则会由台积电五奈米制程代工,规划量产时间是2024年第一季。
世芯与创意崛起的关键
在AI的大势所趋下,运算力大增,但CPU单核运算速度的成长,比电晶体密度增加速度慢太多,而且能耗速度增加太快了,所以必须往多核发展,上述趋势造就了半导体产业现下晶片设计必须朝向GPU+CPU混合架构发展,这是ASIC趋势之所以如此强劲的原因。
而客制化晶片架构,就是一个相同能耗条件下,可以大幅度提高算力的方式,这也就是世芯-KY和创意两家ASIC服务业者,快速崛起且后市看好的主因。另外,Chiplet也是因应上述提升算力与降低功耗的另外一个发展趋势,和传统SoC相比,Chiplet会让制造良率大幅提升。
简单来说,高度客制化的GPU和ASIC晶片趋势会持续下去,也会是主导后续半导体发展的主轴之一,目前需要相关服务的,主要以云端系统服务厂商(CSP)为主,包括亚马逊、脸书、谷歌、微软,而相对应的ASIC设计业者,就是替云端服务业者设计AI晶片的,则有美系的Broadcom、Marvell,以及台资厂的世芯-KY、创意,与在这领域鸭子划水许久但刚崛起的联发科。
目前法人圈估算,2024年世芯-KY成长动能强劲,营收年增率将达到五成,主要取自亚马逊的Tranium 1和Inferentia 2与3,分别会在台积电以七奈米与三奈米投片并量产,另外英特尔在AI云端伺服器的Gaudi2,虽然已经在2023年由台积电七奈米代工,但仍有不少产能目前卡在后段CoWoS,待CoWoS放量后会增加出货量,此外新一代的Gaudi3也会在2024年由台积电五奈米产出。
【全文详情及图表请见《财讯快报 理财年鉴》202401期;订阅财讯快报 理财年鉴电子版】