这档晶片股大惊奇 矽智财台湾队站在风口上
AI题材带动辉达股价创新高。(示意图/达志影像/shutterstock)
矽智财Team Taiwan梦幻明星股。(图/先探投资周刊提供)
随着近期聊天机器人ChatGPT带动的AI风潮席卷全球,微软(Microsoft)、Google、亚马逊(Amazon)、Meta、阿里巴巴、百度等各科技大厂都积极打造生成式AI应用。
AI是今年GTC主轴
就在OpenAI正式宣布推出全新GPT-4大型语言模型之后,微软也在近期宣布新版Bing搜寻服务也已经接入此大型语言模型,将能对应更复杂的搜寻互动行为,甚至也能更流畅识别图像内容,甚至以涵盖文本、图像内容进行搜寻。另外,也发表Office AI助手Copilot,如同ChatGPT一样,使用者可以以文字或口头在聊天介面输入想要做的事,指示Copilot在Word、Excel、Powerpoint、Outlook等完成基本作业,并可再修正、编辑或强化,提升工作效率。
绘图处理器(GPU)大厂辉达(Nvidia)在三月二十日~二十三日举办今年度GPU技术大会(GTC),吸引全球超过二五万人报名参加,执行长黄仁勋先前在加州大学伯克利分校哈斯商学院的演讲中,以人工智慧的「iPhone时刻」来夸赞ChatGPT,并指出新的AI技术和应用正在改变科学和产业界,并成为各大企业积极开辟的新领域。
虽然目前各大云端服务商受限产业景气下行、消费性电子需求降温、利率处于高档等影响,导致资本支出下修,使资料中心建置速度放缓。不过Nvidia认为,为了有效运用算力达成AI应用目标,大规模资料中心势必要增加资本支出以扩大云端运算效能,同时也会带动边缘装置销售。
此外,工业自动化在后疫情时代已成为主流,工业与机器人应用亦需要加入AI运算机制。市场同步看好,GPU需求将提前进入成长循环,除了Nvidia将调整生产计划提高资料中心GPU出货,超微(AMD)及英特尔(Intel)今年内亦有推出专为生成式AI打造的GPU。
目前被广泛运用于资料中心进行机器学习、训练及推论的GPU是Nvidia在二○二○年推出的Ampere架构A100,采用台积电七奈米制程,内含五四二亿颗电晶体,而去年再推出新一代Hopper架构H100,采用台积电四奈米制程,内含八○○亿颗电晶体,并配备最新的第四代NVLink互连技术,能够支撑巨型AI语言模型、深层推荐系统、基因体学运算、及复杂的数位孪生等运算。
先进封装扮演要角
根据麦格理证券研究显示,在AI伺服器当中,半导体价值比普通伺服器高了九~十八倍,其中推论伺服器(inference server)约三.三万美元,训练伺服器(training server)约六.五万美元,企业伺服器约三.六万美元。由于GPU运用在AI运算的关键在于其记忆体频宽,在训练数以百亿、千亿的参数需要很高的运算能力,DRAM因此受限于低频宽的问题而无法负荷,业界目前都是采用先进封装技术将GPU及高频宽记忆体(High Bandwidth Memory; HBM)整合在一起封装,是Nvidia的GPU、Google的张量处理器(TPU)与各种ASIC加速器的唯一选择。
为处里庞大资料量,过去主流使用的HBM2最高每接脚三.六Gbps的资料传输速度已不敷使用,国内业者创意运用其矽智财技术,搭配SK海力士(SK Hynix)的HBM3样本,以及台积电七奈米先进制程和CoWoS(Chip On Wafer On Substrate)的封装技术,打造此频宽最高可达七.二Gbps的HBM3 CoWoS平台。(全文未完)
全文及图表请见《先探投资周刊2240期精彩当期内文转载》
《先探投资周刊2240期》