隐形AI商机太猛!晶片一哥眼红了 跟台厂股王抢地盘
晶片大厂抢吃ASIC诱人大饼。(示意图/达志影像/shutterstock)
AI PC/NB将带来记忆体、高速传输晶片、电源管理晶片、触控晶片、麦克风晶片等周边晶片的升级,不少台系晶片设计业者获益良多。(图/财讯提供)
ChatGPT风行,AI在2023年成为市场最夯的科技话题与趋势,而Nvidia创办人黄仁勋的黑皮衣旋风更是席卷全台,Nvidia与黄仁勋,瞬间都变身成为AI晶片的代言人,但实际上,AI的战火已经悄悄从云端打到边缘,边缘运算正如火如荼窜起,而隐形的AI商机「ASIC(特殊应用晶片)趋势」,大饼更是诱人。
首先就来先定义什么是AI(人工智慧)。人工智慧,最简单也最粗浅的讲法,就是让电脑和机器更有脑子,可以辨别、推论、学习、分析以及采取行动,尤其透过大数据资料可以精密计算,替问题找出解答。
截至2023年底,较为成功的AI都集中在云端,因为庞大的数据运算粒子,暂时必须在云端才能运算,也因此,目前的AI主战场,还是在云端伺服器上,并形成Nvidia、Intel、AMD三强争霸的局面,然Nvidia至今明显占据优势、独强,但实际上三者诉求市场并不完全相同。
三巨头盘据云端主战场
目前在伺服器端俗称与认定的AI晶片,主体在CPU,并搭配能加速AI运算的GPU或加速器,主要还是Nvidia和AMD的主战场。
首先在Nvidia部分,就是H100,黄仁勋曾公开揭露,GPU为AI带来革命,H100是封装了800亿个电晶体的巨大晶片,且仅一颗H100就可以维持每秒40TB的IO频宽,20个H100甚至可以维持全世界网路的流量,此晶片更可推动极大规模的AI语言模型、深度学习系统、数位生物学和数位孪生领域的发展。
H100是采台积电四奈米代工制程产出,并由台积电透过CoWoS封装完成,但目前供不应求,主要卡在台积电CoWoS封装产能不足上,而简单来说,Nvidia在AI的大成功,受益者除Nvidia本身外,就是台积电。
这个AI布建的浪潮也蔓延到中国大陆,陆系业者亦积极抢买Nvidia的AI晶片,然美中贸易战火持续激烈,美国多道禁令阻止Nvidia将AI晶片销往大陆,只是上有政策、下有对策,美国针对Nvidia的每一款AI晶片进行逐一审查,而Nvidia则是将不能销售的晶片改以降阶改版来应对,以维持在中国市场的营收表现。至于H100的下一代H200,则预计2024年中推出。
至于同为GPU大厂的AMD,在AI领域也不甘示弱积极还击,宣布推出MI300,2023年第四季量产,这款AI晶片更具模组化概念,是在单一介面上,包括由台积电五奈米代工的GPU,加上台积电代工的六奈米CPU,再加上HBM组合而成,而其封装方式则更结合了CoWoS跟Chiplet,因此完成后的封装尺寸明显大过Nvidia的同款产品。
事实上,AMD的MI300和Nvidia的H100是相对应的晶片,也是现今市场上最主流的两款AI晶片。除了Nvidia黄仁勋对AI极度看好外,AMD执行长苏姿丰也公开表示,针对数据中心而设的AI晶片,市场发展潜力巨大,2023年的规模为450亿美元,未来四年可达到4000亿美元。她也直言,MI300已经获得多家大型客户承诺采用,预计推出的第一个季度可替公司带入四亿美元的营收,2024年赚进20亿美元营收。
上述不论AMD的MI300和Nvidia的H100,强项在训练,因为GPU的training较有效率,至于英特尔的Gaudi强项是推论。
英特尔的Habana Gaudi2,其实在2023年第一季就量产上市,采台积电七奈米制程产出,英特尔更曾公开揭露,Gaudi2获得百度智慧云、浪潮资讯、美团、紫光新华三等中国大陆业者采用。而下一代的Gaudi3,则会由台积电五奈米制程代工,规划量产时间是2024年第一季。
世芯与创意崛起的关键
在AI的大势所趋下,运算力大增,但CPU单核运算速度的成长,比电晶体密度增加速度慢太多,而且能耗速度增加太快了,所以必须往多核发展,上述趋势造就了半导体产业现下晶片设计必须朝向GPU+CPU混合架构发展,这是ASIC趋势之所以如此强劲的原因。
而客制化晶片架构,就是一个相同能耗条件下,可以大幅度提高算力的方式,这也就是世芯-KY和创意两家ASIC服务业者,快速崛起且后市看好的主因。另外,Chiplet也是因应上述提升算力与降低功耗的另外一个发展趋势,和传统SoC相比,Chiplet会让制造良率大幅提升。
简单来说,高度客制化的GPU和ASIC晶片趋势会持续下去,也会是主导后续半导体发展的主轴之一,目前需要相关服务的,主要以云端系统服务厂商(CSP)为主,包括亚马逊、脸书、谷歌、微软,而相对应的ASIC设计业者,就是替云端服务业者设计AI晶片的,则有美系的Broadcom、Marvell,以及台资厂的世芯-KY、创意,与在这领域鸭子划水许久但刚崛起的联发科。
目前法人圈估算,2024年世芯-KY成长动能强劲,营收年增率将达到五成,主要取自亚马逊的Tranium 1和Inferentia 2与3,分别会在台积电以七奈米与三奈米投片并量产,另外英特尔在AI云端伺服器的Gaudi2,虽然已经在2023年由台积电七奈米代工,但仍有不少产能目前卡在后段CoWoS,待CoWoS放量后会增加出货量,此外新一代的Gaudi3也会在2024年由台积电五奈米产出。
至于创意的部分,目前外资圈预期,该公司2024年营收会较2023年成长约一成,主要动能除了两家基本盘大客户的远端伺服器控制晶片厂信骅与SSD大厂SK海力士营运复苏的挹注外,在ASIC端就是微软的Athena(雅典娜),Athena 1将在2024年第二到四季间,由创意委由台积电以五奈米量产,而Athena 2则预计会在2025年开始导入台积电三奈米量产。
手机市场急冻,联发科近年来积极转骨,而要发展ASIC,真的不容易,需要有很庞大研发团队,且要能量产才能算真正赚钱。半导体圈盛传,二、三年前联发科曾取得亚马逊ASIC订单,但在博通和亚马逊有合约的前提下,联发科的ASIC晶片最终没有量产。而业界的消息则是,联发科依旧在ASIC端默默耕耘,最终获得谷歌青睐,接获TPU V6订单,预计2025年以台积电三奈米量产。
AI从云端到边缘运算
AI目前虽然较大型且具体的应用是在云端,但实际上已经开始逐步扩散到一般消费性电子产品,有AI功能的智慧型手机、NB/PC将开始大举问世。
先来谈谈AI NB/PC,依据现在市场的定义,就是要有更强大的CPU、记忆体、萤幕效果等,相关的NB/PC晶片供应商,还是老面孔的英特尔、AMD,AMD有Ryzen 8040系列NB处理器,而英特尔也在2023年12月中旬亮相其首款整合AI加速引擎(NPU)的NB处理器Core Ultra。
AI PC/NB也会带来包括记忆体、高速传输晶片、电源管理晶片、触控晶片、麦克风晶片等周边晶片的升级,也因此,将会有不少台系晶片设计业者,像是祥硕、谱瑞-KY、钰创、创惟、威锋电子、义隆、钰太、茂达、致新)等,在2024年都可以被法人圈赋予AI PC/NB受惠概念股,在AI领域上打擦边球受益。
智慧型手机也会是AI落地的一大市场,市调单位Counterpoint提到,2024年生成式手机出货量可以达到一亿支以上,在智慧手机中达到8%的市占率,而到了2027年出货量更一举提升到5.22亿支,在整体智慧手机中取得40%市占率,同时也预估在生成式AI智慧型手机的晶片端(安卓体系),高通在未来两年的市占率都会达到八成,但联发科有望自天玑9300推出后,急起直追。
联发科力图打出新天地
高通在2023年10月下旬推出的Snapdragon 8 Gen 3,宣称是以生成式AI为核心设计的行动平台,专为安卓旗舰手机打造,以台积电四奈米制程产出。该款平台更号称首度导入大型语言模型Meta Llama2,CPU速度表现比前一代提高30%、GPU提升25%、NPU提升了98%,AI效能则提升至前代晶片的3.5倍。
联发科执行长蔡力行更多次回应,自家的AI布局,主要是在AI on Edge。他在记者会上公开直言,AI on Edge是公认成长最快、最有机会的领域,每个晶片业者都会想做一颗晶片,在终端装置上支援LLM(大型语言模型)。
联发科2023年11月上旬亮相的天玑9300,则是其在AI手机端的第一个受关注代表作,该款平台采台积电四奈米产出,诉求是独特的全大核CPU,结合新一代APU、GPU、ISP等,整合第七代AI处理器APU 790,为生成式AI而设计,整数运算和浮点运算的性能是前一代的两倍,功耗降低45%,内建天玑9300的终端手机在2023年底上市,至于联发科能不能靠着AI落地到手机与ASIC,在AI竞争的新世代打出一片新天地,答案将会在2024、25年的营运成绩单中见分晓。
全文及图表请见【财讯快报 理财年鉴第202401期】精彩当期内文转载