网企疯抢GPU 投入大模型研发

陆网企内部释放GPU给大模型业务动态

大模型浪潮下企业积极投入研发,被美国卡关GPU(图形处理器)的陆企透过各种管道想大量采购、储备高阶运算晶片。13日传出,今年字节跳动已向辉达下逾10亿美元大订单,仅这张订单规模可能就相当辉达去年在陆 销售商用GPU总和。

晚点LatePost报导,大陆网企积极采购GPU,今年春节后,拥有云端运算业务的大公司几乎都向辉达下大单。其中,字节跳动今年已向辉达下超过10亿美元大单,总计有约10万片A100与H800,部分产品可能要到年底才能交货。

报导指出,仅字节跳动一家的大单可能就逼近辉达去年在大陆销售的总和。去年辉达曾透露,美国禁令可能影响公司第四季在大陆潜在营收约4亿美元,粗略计算,辉达2022年在大陆资料中心GPU销售额约人民币(下同)100亿元。

向辉达递出大订单的当然不仅字节跳动,报导指出,另一家大型网企也向辉达下万片等级订单,规模逾10亿元。大陆多数网企都认为采购GPU是当务之急,首先在过去「降本增效」方针下,一些云端平台都减少晶片采购与储备,其次是难以保证美国会否再有新禁令,最后当然是大模型趋势让各企业争先恐后投入。

报导指出,此前阿里云都还将GPU外租,甚至一度有供过于求状况,阿里云去年就降价六次以吸引客户租用。阿里云在2020年后就减少GPU采购规模,腾讯在去年也砍单一批辉达GPU。

但今年情况截然不同,腾讯在3月份发表新的服务时表示使用辉达H800晶片,为该产品在陆首发。业内人士指出,当前阿里与字节都找辉达原厂谈采购以满足庞大需求。部分公司也会与辉达直接进行业务合作,以确保能优先采购到GPU。

在供不应求的状况下,陆企纷纷先设法挪用其他领域的GPU给大模型研发,报导指出,阿里达摩院5月份裁撤自动驾驶实验室,因此原本该领域的GPU能转给大模型;字节甚至把原本要用在核心业务广告推荐演算法的GPU挪给大模型,反映重视程度;美团等企业也先让其他业务使用较低阶GPU,高阶晶片优先供应大模型。