辉达超级AI晶片GB200 8科技巨头疯抢

辉达创办人兼执行长黄仁勋指出,微软、亚马逊、Google、Meta及OpenAI、特斯拉、甲骨文、戴尔等巨擘,都是Blackwell架构新品首批使用者。图/美联社

辉达秀出率先使用液冷解决方案的DGX GB200 NVL72巨型规模系统。图/下载自辉达官网

辉达B100/B200 v.s H100/H200

辉达GTC 重点整理

史上最强AI晶片—GB200于辉达GTC 2024亮相,采台积电4奈米客制化制程,下半年量产。辉达创办人兼执行长黄仁勋指出,微软、亚马逊、Google、Meta及OpenAI、特斯拉、甲骨文、戴尔等,都是Blackwell架构新品首批使用者。

辉达与AMD(超微)竞争白热化,辉达GB200较目前热卖的H系列训练速度增4倍,推论效能提升达30倍,OpenAI、特斯拉、甲骨文及四大云端服务供应商(CSP)抢先采用,将推升台系AI供应链包括台积电、广达、纬创、纬颖、和硕、华擎、技嘉、台达及鸿佰再创营运佳绩。

台积电4奈米相挺辉达

他说,通用运算已失去动力,现需要更大的模型、更大的GPU,需要将GPU堆叠在一起,并顺势宣布新一代Blackwell架构,基于此端出B200和GB200系列晶片,定位直指「新工业革命的引擎」,宣告将AI扩展到万亿参数等级。此外,B200相较先前产品有颠覆性提升,电晶体达2,080亿,透过NVLink 5.0互连技术连结;每个B200封装中有两个Blackwell晶片,总性能提高2.5倍。GB200由两颗B200 Blackwell GPU和一个基于Arm的Grace CPU组成,单推论效能就较H100提升达30倍。

另由多款GB200堆叠而成的AI超级电脑-DGX SuperPOD,除处理器核心突破晶片尺寸的物理极限,整体伺服器机架所需电源供应及散热解热瓦数均创产业天花板,辉达率先导入液冷散热架构让液冷散热成GTC 2024新亮点。

辉达正打造三大运算平台DGX/OVX/AGX,获得理解、模拟和影响世界的能力,应用初步成效如工业模拟、天气预报、健康医疗等,也持续推动算力摩尔定律,每半年将算力翻倍,算力性能史无前例地

增长。