英特爾推出第三代Gaudi 3加速器 將打通生成式AI應用瓶頸

英特尔推出第三代Gaudi 3加速器， 执行长基辛格表示，此加速器将打通生成式AI应用瓶颈 ， 实现AI无所不在。图/英特尔提供

英特尔今日在2024愿景日（Vision 2024）客户暨合作伙伴大会上，推出第三代 Gaudi 3加速器，为企业生成式AI带来效能、开放性和选择，并揭露新的开放式可扩充系统、下一代产品和策略合作，以加速生成式AI的采用。英特尔强调，去年仅有10%的企业成功将生成式AI（GenAI）专案投入生产，预料在英特尔推出最新产品后，将解决企业在扩展AI计划时所面临的挑战。

英特尔执行长基辛格（Pat Gelsinger）表示：「创新正在以前所未有的速度发展，且都需要晶片的助力，每家公司也正迅速地转型为AI公司。英特尔在企业的各层面实现『AI无所不在』，从PC、资料中心到边缘应用。我们最新的Gaudi、Xeon和Core Ultra平台提供一套全面且弹性的解决方案，以满足客户与合作伙伴不断改变的需求，并充分利用未来的庞大机会将其盈利化。」

英特尔表示，企业正在寻求将生成式AI从小规模试验扩展到生产。透过基于高效能、能源效率、成本效益的处理器如Intel Gaudi 3 AI加速器，打造可用的解决方案，不仅可以解决复杂性、碎片化等问题，还符合资料安全性和法规要求。

英特尔强调，第三代Gaudi 3 AI加速器，将透过乙太网路通用标准，连接数万个加速器，为AI系统提供支援。与前一代产品相比，Intel Gaudi 3将BF16的AI运算能力提高4倍，并将记忆体频宽提高1.5倍。Intel Gaudi 3 AI加速器将为寻求大规模布署生成式AI的全球企业，带来AI训练和推理方面的重大跃进。

英特尔的Gaudi强大之处，在具有70亿和130亿参数的Llama2模型及1750亿参数的GPT-3模型上，Intel Gaudi 3的平均训练时间将比Nvidia H100缩短50%。此外，在Llama 70亿、700亿参数以及Falcon 1800亿参数模型中2，Intel Gaudi 3加速器的推理处理量，将比H100平均高出 50%，推理效能平均高出40%。

英特尔表示，Intel Gaudi 3提供开放、基于社群的软体和符合业界标准的乙太网路，让企业能从单一节点弹性延伸到数千个节点的丛集、超级丛集和巨型丛集，支援最大规模的推理、微调和训练。

Intel Gaudi 3将于2024年第2季开始提供给OEM厂商， 包括戴尔科技、慧与科技、联想和美超微等。

英特尔执行长基辛格表示，英特尔正从PC、资料中心到边缘应用，在企业的各层面实现「AI无所不在」。记者简永祥/翻摄

英特尔今日在2024愿景日（Vision 2024）客户暨合作伙伴大会上，推出第三代 Gaudi 3加速器，将可加速生成式AI的采用。图/英特尔提供

英特尔执行长基辛格表示，英特尔正从PC、资料中心到边缘应用，在企业的各层面实现「AI无所不在」。记者简永祥/翻摄