ASIC百家争鸣 GPU仍为现阶段主流

法人透露,今年将为创意AI晶片进入规模量产阶段,营运贡献度将逐步提升。图/美联社

亚马逊、微软、google、Meta四大云端服务商(CSP)大厂积极投入自研晶片,为半导体业带来庞大新商机。法人指出,在功耗要求以及针对不同场景开发客制化晶片下,台厂相关公司如创意、世芯-KY、智原都将受惠。

四大CSP业者积极寻求与ASIC设计服务业者合作,半导体业者指出,亚马逊推出Trn1及Trn2分别采用7奈米及5奈米制程,分别下单给世芯-KY及Marvell,google TPU采5奈米设计与博通关系良好,微软Maia采5奈米晶片则委由台积电代工并搭配GPU架构,Meta MTIA则采7奈米制程,委由博通设计。

半导体业者指出,为求降低整体成本,配合自身生态软体跟应用,各家云端大厂积极开发ASIC,且因自研晶片需摊提开发成本,具有庞大用户基础才足以达到规模效益;目前能开案AI ASIC之厂商,仅着重在各大CSP业者。

以Google TPU例,与博通(Broadcom)合作开发,专门针对Google的开源深度学习框架TensorFlow最佳化的晶片,在此框架下能发挥最高之运作效率,不过在其他学习框架的表现则不佳,通用型GPU仍为现阶段主流方案。

微软于2023年11月发布两款晶片,分别为CPU及AI加速器之Cobalt 100、Maia 100;其中Maia 100采用台积电5奈米制程。据法人调研指出,该款晶片于FLOPS(浮点运算次数)以及I/O上,处于领先地位,但该晶片不对外贩售,仅做为微软ASIC内部人工智慧运算。不过Maia因为记忆体频宽限制,在推理效能仅为H100的三分之一,考量延迟问题,Maia于延迟敏感度高之应用,如自驾车,仍无法与晶片巨头辉达或AMD GPU匹敌。

自研晶片虽然在应用上,不若晶片厂通用型GPU广泛,然而ASIC却在成本上坐拥优势。法人表示,以价格而言,Google云端A100 80GB价格为每小时3.93美元,TPU v4价格仅需3.22美元,减少约2成左右;在特定应用效能也不输GPU的情况下,CSP业者采取自主研发,降低运营成本。