人工智能基础设施需求热度持续不减
据新街研究(公司)表示,由于在计算能力方面投入更多会带来性能更出色的模型,人工智能基础设施短期内没有任何放缓的迹象。
这就好比是一个自我延续的系统。
由皮埃尔·费拉古领导的新街研究分析师在一份行业报告里说道:“OpenAI 展示了模型规模如何给推理成本带来巨大压力。”
“尽管随着模型的成熟,推理成本下降速度非常快,但下一代模型的运行成本明显高于上一代版本(而且随着推理能力的引入,这种情况只会变得更糟),”他补充道。
尽管这个循环保证了为人工智能提供硬件支持的公司有很高的需求和销售额,但这引发了一个问题,即下一代模型不断增加的费用究竟是否值得。
“生成式人工智能是一项业务,其(最新模型的)增量成本高得惊人,”费拉古指出。“这与软件完全相反,软件的增量成本为零。我们不确定这最终会怎样,但它会对价值链的结构造成极大的冲击。”
诸如 Meta Platforms(纳斯达克:META)和 xAI(由特斯拉(TSLA)首席执行官埃隆·马斯克创立的初创公司)等公司在人工智能硬件竞赛中持续加码。上周,马斯克宣布了一个由 10 万个英伟达 H100 GPU 驱动的人工智能训练集群。他计划在接下来的几个月把规模翻倍。同样,Meta 首席执行官马克·扎克伯格计划在年底前让 35 万个 H100 为其公司的人工智能业务提供支持。
“随着我们在供应方和需求方对人工智能经济学的理解都有所提升,”费拉古说。“我们看到了当前支出水平具有可持续性的有力证据,以及进一步大幅增长的空间,”“这并不意味着不会有停顿或调整,但这意味着我们还没有看到自己处于不可持续泡沫的顶峰。远非如此。”
Nvidia 目前在为不断发展的一系列人工智能模型提供动力所需的处理器的竞赛中胜出。一个主要原因是 Nvidia 最新 GPU 的全栈及系统规模集成能力。这使得在更大范围内能够实现更大的芯片到芯片带宽互连。
新街研究公司表示,这正是英伟达相对于竞争对手 AMD(纳斯达克:AMD)的优势所在。
“不过,这并不代表 AMD 不合格,其架构通用性稍差、可扩展性稍弱,但仍具有竞争力,只是在更为有限的用例范围内,并且需要进行专门的优化工作,”费拉古补充道。
AMD 明白这一点,并且正在努力挑战英伟达,这也是 AMD 最近收购 ZT Systems的原因之一。