超微里程碑 AI王牌晶片正式出货

超微Instinct MI300X处理器在外界引领期盼下,终于正式交货。图/美联社

超微Instinct MI300X规格

超微(AMD)专为AI及高效能运算开发的Instinct MI300X处理器在外界引领期盼之下,终于在近日正式交货。长期与超微合作的AI服务业者LaminiAI表示,近日已收到多台内建8个MI300X处理器的运算设备。

超微Instinct MI300系列产品自去年就开始出货,且超微宣称该系列可望成为公司史上营收最快破10亿美元的产品系列,但号称性能胜过辉达H100处理器的MI300X迟迟未出货,这回是第一次有客户证实MI300X开始大量出货,象征超微终于达成重要里程碑。

LaminiAI专门训练商用大规模语言模型,因此向超微采购多台内建8个MI300X处理器的运算设备。科技情报网站Tom’s Hardware报导,LaminiAI执行长Sharon Zhou近日在网路上公开MI300X运算设备的照片。

她表示,第一批超微MI300X处理器正在运算中。内建8个MI300X处理器的设备已经上线,就像刚出炉的面包一样新鲜。若您正在打造开放原始码的大规模语言模型,但运算经常卡关,请告诉我。大家都该享受大规模语言模型这样神奇的科技。我的意思是,LaminiAI新一批大规模语言模型已经上线。

超微先前推出的MI300A处理器已经是资料中心等级,内建x86 CPU及GPU,并采用支援AI运算的CDNA 3架构。MI300X虽然没内建CPU,但CDNA 3晶片组数量更多,共有304个运算单位,远胜MI300A的228个运算单位。

MI300X被视为超微对抗辉达H100处理器的最佳武器,因为MI300X内建HBM3 192GB记忆体,胜过H100的HBM3 80GB记忆体,且MI300X记忆体频宽高达每秒5.2TB,反观H100记忆体频宽每秒3.35TB。业界人士甚至认为MI300X足以和辉达即将推出的H200 141GB GPU抗衡。

在客户方面,微软和Meta已采购大量的MI300系列,LaminiAI则是首个公开采用MI300X的客户。