AMD以全新EPYC伺服器處理器、Instinct加速器、Ryzen AI與嵌入式產品推動全方面AI應用佈局
今年10月宣布推出代号Turin的第五代EPYC伺服器处理器,同步推出与NVIDIA H200抗衡、基于CDNA 3架构设计的Instinct MI325X人工智慧加速器,另外也以全新Ryzen AI PRO 300系列处理器推动工作站机种运算能力,更进一步强化嵌入式产品发展布局,此次在台湾举办的AI SOLUTIONS DAY活动展示其人工智慧解决方案,标榜与市场合作伙伴共同推动人工智慧应用发展。
此次活动中,AMD与26家OEM、ODM、独立软体供应商与嵌入式合作伙伴共同展示以其运算产品推动人工智慧技术应用。
AMD台湾区商用业务处资深业务副总经理林建诚表示,AMD持续推进端对端的人工智慧基础设施创新,透过全新EPYC伺服器处理器、Instinct加速器、Pensando DPU,以及Ryzen AI CPU等运算产品,针对人工智慧、云端、终端及嵌入式工作负载提供广泛的解决方案组合。
同时,AMD也持续推进开放式人工智慧产业体系,透过全新功能、工具、最佳化和支援扩展AMD ROCm开源人工智慧软体堆叠,协助更多开发人员从Instinct加速器中获取极致效能,并且对应当前人工智慧应用发展需求。
AMD全球副总裁暨嵌入式解决方案事业群总经理Rajneesh Gaur则说明AMD借由广泛的嵌入式AI解决方案组合,以及技术架构推动资料中心更高运算效能与执行效率。
在边缘人工智慧成为下一波创新浪潮之际,AMD以Versal自适应系统单晶片及Alveo加速卡,协助客户更快将解决方案推向市场,而EPYC嵌入式与Ryzen嵌入式处理器解决方案则可为资料密集型工作负载提供强大且高效的运算效能。
今年正式宣布出货的第五代EPYC伺服器处理器,分别获得Cisco、Dell、HPE、联想、Supermicro等ODM业者及云端服务业者采用,本身提供8核心到192核心的广泛核心数量规格选择,强调在效能及能源效率之间平衡取得优势,其中最高阶的192核心处理器效能比起竞争对手推出同级提升高达2.7倍。
以采192核心设计的EPYC 9965处理器为例,相比Intel推出的Xeon 8592+处理器在商业型应用如视讯转码速度提升高达4倍,而在科学和高效能运算应用洞察时间缩短则多达3.9倍,另外在虚拟化基础设施 (infrastructure)中的每核心效能更提升高达1.6倍。
而在TPCx-AI (衍生)等端对端人工智慧工作负载,EPYC 9965处理器效能提升高达3.7倍,在Meta Llama 3.1-8B等中小型企业级生成式人工智慧模型可对应资料吞吐处理效能更比竞争对手推出同级产品提升1.9倍。
第五代EPYC伺服器处理器更以9005系列更将推出以Zen 5c架构打造衍生规格,同时每组CPU可对应多达12通道的DDR5记忆体模组,最高可对应DDR5-6400 MT/s记忆体规格,另外也支援完整512b资料路径的AVX-512指令集,并且使用对应机密运算的可信任I/O连接埠设计,以及正进行该系列中每个部份的FIPS认证,借此确保系统运作安全。
至于预计在2024年第4季量产出货,并且将于2025年第1季起由Dell、HPE、联想、Supermicro、Eviden、技嘉等平台业者导入用于设计产品的Instinct MI325X加速器,标榜能在基础模型训练、微调和推论等要求严苛的人工智慧任务提供更高运算效能及执行效率,借此协助客户和合作伙伴在系统、机架和资料中心层级打造更高效能和最佳化的人工智慧解决方案。
此外,AMD也表示透过全新Ryzen AI PRO 300系列处理器推动工作站设备运算效能,提供超过50 TOP的NPU运算能力,借此推动各类商用工作负载,并且衔接云端、终端运算资源,实现更完整的人工智慧应用体验。
《原文刊登于合作媒体mashdigi,联合新闻网获授权转载。》