苹果弃辉达 采谷歌晶片打造AI

图/美联社

苹果最新技术文件透露,Apple Intelligence背后的两大AI模型,是采用谷歌研发的张量处理器(TPU)进行训练,而非使用辉达GPU,透露辉达晶片供不应求令一些科技大厂开始另寻出路。

苹果先前在6月首度发表AI技术文件,当时仅大略说明苹果AI模型是采用TPU进行训练。苹果近日发表的最新技术文件长达47页,内容详细介绍苹果基础模型(AFM)及AFM伺服器是在「云端TPU丛集」进行训练,也就是说苹果是向云端服务供应商租用云端伺服器来训练AI模型。

苹果于文件中表示:「这套系统让我们能有效并有规模地训练AFM模型,包括装置本机端的AFM模型、AFM伺服器及更大规模的语言模型。」

苹果进一步表示,在iPhone及iPad本机端的AFM模型一共采用2,048个TPUv5p晶片进行训练,而这类晶片是目前市面上最先进的TPU晶片。AFM伺服器一共采用8,192个TPUv4晶片进行训练。

谷歌最初在2015年推出TPU时仅供内部训练使用,2017年才开始对外提供TPU租用服务,是目前应用于AI训练技术最成熟的客制化晶片。谷歌官网指出,旗下最先进TPU的租金以三年合约计算约为每小时2美元。

尽管辉达GPU晶片称霸高阶AI晶片市场,但因AI模型训练需要的晶片数量庞大,且OpenAI、微软、谷歌、Meta、甲骨文、特斯拉等科技大厂全都使用辉达晶片发展AI技术,导致辉达晶片严重供不应求。

Meta执行长祖克伯与Alphabet执行长皮查近日纷纷表示,科技业为了追赶AI浪潮可能过度投资AI基础建设,但过度投资总好过错失产业趋势。

自从2022年底ChatGPT爆红带动生成式AI市场起飞后,矽谷科技大厂争相投资AI研发,相较之下苹果已落后对手一步,如今不得不加把劲充实Apple Intelligence。苹果29日已针对部分装置发布Apple Intelligence预览版。