微软AI晶片 找台积助攻

微软AI运算Athena处理器

微软转投资OpenAI开发的人工智慧(AI)聊天机器人ChatGPT热度不减,引发国际大厂争相布局AI应用,微软Azure云端服务提供AI运算,过去主要以绘图处理器(GPU)架构为主,现决定投入自有AI晶片研发。据业界及外媒消息,微软将采用台积电5奈米制程及创意矽智财(IP)开发AI运算Athena处理器,以进一步降低AI市场布局的庞大运算硬体建置成本。

随AI应用在各产业遍地开花,继亚马逊AWS、Meta、Google等大厂陆续表态将开发客制化自有AI晶片后,微软也决定跟进投入客制化自有AI晶片研发。事实上,微软与台积电及创意已有多年合作经验,微软游戏机XBOX内建的多款客制化晶片都是交由台积电生产,此次开发代号为Athena的5奈米AI处理器也交由台积电代工。

据外媒及业界消息,微软此次开发代号为Athena的AI处理器,会采用创意IP及委托设计(NRE)服务,并采用台积电5奈米制程生产,最快明年上半年开始导入资料中心。微软Athena处理器将应用在生成式AI技术运算,包括训练大型语言模型(LLM)和AI推论(inference)等项目。

微软目前提供的AI运算算力仍是基于GPU架构,多数是向辉达(NVIDIA)采购庞大的GPU,但随着生成式AI市场兴起,AI运算算力需求爆发性成长,庞大GPU采购及资料中心建置成本大幅提高,所以微软希望自行研发的AI运算Athena处理器能提高效能,进一步降低开发AI所需耗费金钱成本和时间。

据研究资料显示,每千万名生成式AI每日活跃用户(Daily Active User,DAU)所需求算力,约等同于2.4~3.0万颗资料中心GPU,且随着DAU数量的大幅跳升,现阶段要立即处理用户的每一个提问所需算力约等于4张GPU显卡,每8张GPU显卡算力能立即生成15~20个单字。微软只要Athena处理器的AI运算算力超越GPU显卡,AI晶片投资计划就算成功。