Google揭曉代號Trillium的第6代TPU 加速Google Cloud平台應用服務執行效率

在此次Google I/O 2024中,Google宣布推出代号Trillium的第6代TPU,预计会在今年底透过Google Cloud服务提供,另外也宣布今年4月于Google Cloud Next'24活动上公布代号「Axion」的客制化处理器将于年底前上线,而与NVIDIA合作的Blackwell GPU则会在2025年初提供使用。

相比先前推出的TPU v5e,Google表示第6代TPU将能提升4.7倍的加速效能,同时在设计强化矩阵乘法单元 (MXU),并且提高运作时脉,以及借由增加1倍的HBM高密度记忆体频宽与容量加速资料运算传输效率。

此外,第6代TPU更具备加快处理排序及推荐工作负载的第三代SparseCore嵌入式加速器,并且透过客制化光通讯技术让晶片对晶片互连频宽相比TPU v5e增加一倍。而第6代TPU能以256组构成单一Pod,并且可扩展至数百万个Pod规模,同时所有TPU都能以每秒达PB级别传输速度互连运作。

Google强调其提供更完整的运算架构选择,并且借由开源软体形式简化开发难度,其建构基础架构环境更以液冷维持稳定运作,同时更透过海底光纤电缆串接位于全球各地的数据中心,借此让建构在Google Cloud环境的云端运算服务能以更快反应速度运作。

而当前除了透过自有TPU进行加速运算,Google也与NVIDIA、AMD及Intel在内业者合作,甚至本身也推出以Arm Neoverse架构打造的「Axion」客制化处理器,借此满足更多开发者不同硬体环境布署应用需求。

《原文刊登于合作媒体mashdigi,联合新闻网获授权转载。》