字節跳動傳和台積電合作開發2款AI晶片 後年量產
字节跳动在开发生成式AI模型的支出不断增加。路透
科技新闻网站The Information引述知情人士报导,字节跳动和台积电(2330)合作,希望自家设计两款用于人工智慧(AI)的晶片能在2026年量产,如此可以在开发和运作AI模型上减少辉达(NVIDIA)晶片的依赖。
字节跳动计划向台积电采购数十万颗自家设计的训练和推理晶片。据The Information估算,这一批自家设计的晶片成本会比向辉达购买晶片便宜数十亿美元。但晶片仍处于设计阶段,字节跳动的计划也可能改变。
知情人士向 The Information透露,字节跳动的晶片采5奈米制程,只比台积电先进制程落后一代。辉达即将推出的旗舰AI晶片「Blackwell」也采用5奈米。
据报导,字节跳动设计的晶片符合美国对大陆出口管制的规定,配合这些规范是字节跳动能和台积电合作的先决条件。不过,由于美国政府可能会每年更新规定,因此这些晶片未来仍有可能违反相关规定。
对字节跳动来说,降低晶片成本最为重要。字节跳动像其他大型大陆科技公司一样,推出自家大型语言模型供内部使用和销售。不过,由于竞争激烈,腾讯、阿里巴巴和百度纷纷将自家模型的使用价格大砍多达97%。
字节跳动去年发表头一款AI聊天机器人「豆包」,提供类似OpenAI的ChatGPT的文本和图像生成AI功能。今年,字节跳动宣布一套低成本的大型语言模型,其中有的定价比OpenAI的对应产品便宜多达99%。目前无法在大陆使用 OpenAI。
The Information 报导,字节跳动在开发生成式AI模型的支出不断增加,据说今年采购超过20万颗辉达H20晶片,这是美国出口管制下允许出售给大陆的最先进辉达晶片。这笔订单耗资超过20亿美元,尚未完全交货。
H20的效能约为辉达H100的四分之一,H100则是辉达2022年推出最先进的晶片。由於单颗H20的运算效能较差,大陆业者需要购买更多的H20晶片才能建立相同运算能力的丛集,也因此增加了成本。