Meta推出第二款MTIA客製化加速器晶片 由台積電5nm製程生產

去年推出第一款内部开发的客制化加速器晶片系列，专门用于处理推理相关工作的MTIA（Meta Training and Inference Accelerator）加速晶片之后，Meta宣布推出新款客制化加速器晶片，将对应内容排序与广告推荐的底层运算加速，并且依然由台积电代工，以5nm制程生产。

新一代MTIA加速晶片以8 x 8矩阵运算架构，并且改善稀疏运算管线设计，并且加上更大储存、记忆体、传输频宽等设计，让密集运算与稀疏运算能分别提升3.5倍与7倍，同时借由晶片整合网路功能（network on chip，NoC）设计，让晶片可在网路延迟情况下调整不同运算方式，借此对应更复杂工作负载模式。

同时，新一代MTIA加速晶片运作时达1.35GHz、采用128MB记忆体、PCI Gen 5传输介面设计，但热设计功耗则增加为90W，相较前一代晶片采用25W设计，明显耗电许多。

而软体方面则对应PyTorch 2.0、图层捕捉、分析、转换，以及撷取机制，因此能直接相容第一代MTIA加速晶片平台环境与相关程式编码。

Meta预计会在近期内将新晶片更换至既有运算环境，目前更已经透过新款晶片在其16个云端区域资料中心执行人工智慧相关工作负载，同时降低对外如NVIDIA加速晶片的依赖。

《原文刊登于合作媒体mashdigi，联合新闻网获授权转载。》