英特尔拟推出大陆市场「特供版晶片」Gaudi 3
英特尔正式公布新一代AI加速晶片Gaudi 3 之后,另准备针对大陆市场推出「特供版」Gaudi 3。(示意图/资料照片)
外媒The register报导,继不久前英特尔正式公布新一代AI加速晶片Gaudi 3 之后,另准备针对大陆市场推出「特供版」Gaudi 3,包括名为HL-328的OAM相容夹层卡(Mezzanine Card)和名为HL-388的PCle加速卡两种硬体形态。
报导指出,英特尔在其Gaudi 3白皮书中披露了上述资讯,其中HL-328将于6月24日推出,HL-388将于9月24日推出。
具体硬体规格方面,大陆特供版的Gaudi 3与原版相比,具有相同的96MB SRAM片上记忆体,128GB HBM2e高频宽记忆体,频宽为3.7TB/s,拥有PCIe 5.0 x16介面和解码标准。但是,由于美国对于AI晶片的出口管制规则限制,使得这类高性能AI的综合运算性能(TPP)需要低于4800才能出口到大陆, 这意味大陆特供版的Gaudi 3的16bit性能不能超过150 TFLOPS。
根据英特尔公布的资料显示,Gaudi 3在FP16/BF16上可以达到1835 TFLOPS,相比辉达H100在大模型训练方面快40%、推理能效高50%。
显然,大陆特供版的Gaudi 3需要大幅降低AI性能,才能合规出口。因此,大陆特供版Gaudi 3需要大幅削减内核数量(原版拥有8个矩阵数学引擎和64 个张量内核)和工作频率。