GTC登场 黄仁勋放大绝 Blackwell架构B200晶片
黄仁勋GTC演讲。图/郑淑芳
众所瞩目辉达(NVIDIA)创办人、AI教父黄仁勋,发表GTC 2024的主题演讲-见证AI的变革时刻。鉴于过去一年多时间里AI带来的生产力变革,老黄的演讲已成为全球引领期盼之热门事件。在这场两小时的演讲中,黄仁勋公布搭载B200晶片的GB200 Grace Blackwell超级晶片系统,以及辉达在AI软体(NIM微服务)、Omiverse云端、人型机器人方面的最新发展。
本届GTC参与者,包含微软、亚马逊、谷歌等科技巨头,台厂如台积电、联发科、鸿海、台达电、纬创等,黄仁勋强调,这些公司不只是来参会,而是有自己的东西要来展示。
黄仁勋表示,GTC将讨论新产业的许多问题,重要的是如何进行计算、要如何为产业构建软体类型,并导入新行业中的新应用;擘划产品未来,要如何从今天开始准备。
数位孪生,为辉达使用模拟工具协助个产业发展,黄仁勋指出,不仅是为降低运算成本,更是扩大运算规模。希望能够以完全拟真、完全数位化的方式,模拟生产之产品,其中便包含汽车、新药等。
接着,黄仁勋开始介绍开始一系列「新加速生态系统」合作伙伴,包括ANSYS、Synopsis、Cadence等。更提到,台积电和Synopsys将突破性的运算微影平台投入生产。
黄仁勋强调,随着transformer模型被发明,以惊人的速度扩展大型语言模型,实际上每六个月就能翻倍;而为了训练这些越来越大的模型,需要更强的算力!
Grace-Blackwell系统正式亮相,包含两个Blackwell GPU、四个Die与一个Grace CPU连接在一起。GB200将两台B200 Blackwell GPU与一个基于Arm的Grace CPU进行配对,拥有2080亿个晶体管,并能同时存取与晶片连接的记忆体;此外,为了处理大规模资料中心的GPU互连,也需要更强NVlink。
黄仁勋分析,过往使用8,000张Hopper GPU,训练一个1.8兆参数量的GPT模型,需要消耗15兆瓦的电力,连续跑上90天;但如果使用Blackwell GPU,只需要2000张,同样跑90天只要消耗四分之一的电力,当然不只是训练,生成Token的成本也会随之降低。黄仁勋揭露,微软Azure、AWS、Google等一众科技巨头,都是Blackwell架构的首批使用者。
另外,人型机器人,更是黄仁勋演讲爆点。黄仁勋表示,「在我们的世界里,人型机器人很有可能会发挥更大的作用,包括设置工作站、制造和物流的方式,都将带来革命性改变。」
黄仁勋同时宣布名为GR00T的项目,推动辉达在具备人工智慧机器人的进展;由GR00T驱动的机器人可以理解自然语言,并透过观察人类动作,进一步模拟运动。现场,也展示迪士尼orange和green机器人,该机器人用的即为辉达替机器人设计的首款AI晶片Jetson。