绕过辉达 华为押宝AI推论应用
华为正聚焦人工智慧「推论」应用的需求,打算借由让大陆企业采用其自研的升腾晶片,借此在AI晶片市场中抢占更多市占率。(新华社)
当美国政府对半导体晶片输中祭出更严格禁令的同时,大陆华为正聚焦人工智慧「推论」(Inference)应用的需求,打算借由让大陆企业采用华为自研的升腾(Ascend)晶片,借此在AI晶片市场中抢占更多市占率。
《金融时报》21日报导,中国主要的AI企业一向依赖辉达(Nvidia)的绘图处理器(GPU)来「训练」(train)大型语言模型(LLM)。选择不与辉达在AI训练领域硬碰硬,华为则是试图说服陆企在推进AI推论学习时,能优先采用自家最新研发的升腾AI晶片。
生成式AI的学习通常可分为训练与推论两个阶段。推论是指LLM在生成回应时进行的计算。华为预测,随着AI训练阶段的饱和,以及未来聊天机器人等AI应用程序变得更加普及,市场对AI「推论」的学习需求将更大。
「训练很重要,但它只会发生几次」,华为苏黎世实验室负责推理加速的高级AI研究员Georgios Zacharopoulos表示。根据华为员工和升腾的客户说法,华为采用技术难度较低,但潜在利润丰厚的策略,即将辉达产品训练的AI模型改装到升腾晶片上运行。虽然辉达的GPU和升腾晶片使用不同的软体,但华为正透过自行开发软体,设法解决相容问题。
Bernstein分析师Lin表示,「中国公司在玩一个不同的游戏。他们比美国更加关注推论,如此一来,即使使用较低阶的晶片,也能透过提升效率实现大的进步,这也意味着可以更快实现商业化。」
报导指出,华为的努力得到中国政府的高度支持。大陆政府敦促大陆科技巨头更多地购买华为的AI晶片,并减少对辉达的依赖。一位熟悉辉达中国业务的人士表示,华为已被辉达视为是大陆市场最严峻的竞争对手,其晶片设计能力「非常先进」。