辉达不只强在晶片!内行曝3大最猛盾牌 八国联军也打不过

8大科技巨头结盟对抗辉达。(示意图/达志影像/shutterstock)

当HPC算力到达一个高峰后,资料的传输能力变成下一个技术竞争的战场,八大科技巨头就怕整碗AI硬体商机都被辉达端走,只好硬着头皮结盟对抗。

综观当前AI市场中,辉达(Nvidia)无疑是目前全球AI的主要领导者之一。其以游戏显卡起家,在过去的十年里以黑马之姿,从一家价值仅约一○○亿美元的新创公司,茁壮成一间市值超越三兆美元的科技巨头;且辉达崛起的速度在美股可以说是数一数二的,一年前市值还仅四○○○多亿美元,短短一年时间就从一兆美元冲上三兆美元,不仅如此,近期市值更一度超越微软(Microsoft)及苹果(Apple)登顶宝座。

辉达凭借其于一九九九年发明的图形处理器(GPU),摇身一变成为「AI军火商」,并在AI晶片领域享有九○%以上的市占;随着全球对AI晶片需求的爆炸式增长,辉达的GPU早已是各界疯抢的当红炸子鸡。

逐鹿AI,八巨头结盟

当然,在庞大的AI商机面前,除辉达外,其他科技大厂亦想一争宝座。近期美国八大科技巨擘包括英特尔(Intel)、超微(AMD)、博通(Broadcom)、思科(Cisco)、Google、慧与科技(HPE)、Meta及微软(Microsoft)共组UALink推广组织,将携手开发新的互联技术UALink,旨在提供高速、低延迟网路互连,且开放式的产业标准,运用开放协定促成加速器晶片之间的有效通讯,并能轻易扩增单一伺服器机柜内的加速器晶片数量,同时提供运算密集工作负载的必要效能。

UALink促进小组就指出,随着AI运算需求大增,企业需要能建立低延迟、高效率的向上扩充(scale-up)网路,以便为单一执行个体加入运算资源。UALink和产业规格目的即在为AI和机器学习、HPC和云端应用的建立和实作,建立标准介面。

进一步来看,UALink提议的第一个版本「UALink 1.0」将在单一运算「pod」中连接多达一○二四个AI加速器(仅限GPU)。UALink 1.0基于「开放标准」,包括超微的无限架构,将允许AI加速器附加的记忆体之间进行直接载入和储存,并且与现有的互连规格相比,总体上将提高速度并降低资料传输延迟的作用。简单来说,UALink可以将大量加速器连接在一起,共同完成大规模计算任务。

UALink开放标准剑指辉达

此外,这八家公司预计第三季创建一个「UALink联盟(UALink Consortium)」,负责监督UALink规范的未来发展,UALink 1.0也将释出给届时加入的企业,至于更高频宽的升级版规格UALink 1.1则预定第四季问世。超微资料中心解决方案总经理诺洛德(Forrest Norrod)表示,第一批UALink将在「未来几年」推出。

UALink的问世可以说意在对抗辉达的NVLink技术,希望打破辉达的垄断。根据外媒分析指出,辉达寡占AI加速器至少八○%至九五%市占率,且近乎掠夺式的高毛利,亦早就让全美科技巨头不安,因此这次的合纵手段,也被视为是「AI产业为了打破辉达垄断地位所做的最新努力」。

辉达执行长黄仁勋先前受访时就回应,NVLink已经发展到第五代,而UALink只是一个提案,在未来几年内都无法与NVLink竞争;且黄仁勋亦表示,当UALink第一代推出时,NVLink可能已经发展到第七或第八代。而产业人士也认为,辉达的成功,并非只单在晶片本身,除有强大的GPU技术外,完善的软体生态系统如CUDA平台,以及NVLink串联频宽,都是其他业者难以在短期内超越的「护城河」。

NVLink是辉达开发的一种高速GPU互连技术,主要目的是取代PCIe来提供更快的传输速度与沟通模式。回顾NVLink的发展,由于计算需求不断增长之下,多GPU的系统配置越来越普及,然而,在此趋势下,作为连结的PCIe之频宽逐渐成为瓶颈,而为了速度更快、拓展性更强的互连,辉达于一四年的GTC大会上首次提出了NVLink技术,并于一六年发布了第一款搭载NVLink的产品P100,单个GPU具有一六○GB/s的频宽,相当于PCIe 3的五倍频宽。

辉达护城河短期难超越

也就是说,NVLink可以让GPU与GPU跳过CPU直接沟通,亦让CPU与GPU的沟通模式变得更直接,并且同时借由统一存取记忆体技术整合CPU与GPU的记忆体,能更有效的利用运算资源。简单来说,NVLink是一个能够在GPU与GPU之间以及GPU与CPU之间实现高速大带宽直连通讯的快速互连机制。

而自NVLink问世以来,目前已发展到第五代,单个GB200 Tensor核心GPU最高可支援十八个每秒速度一○○GB的NVLink连线,总频宽可达每秒一.八TB,比前一代频宽高出两倍,超过第五代PCIe频宽十四倍。另,NVSwitch是NVLink的关键推动者,透过NVLink Switch,NVLink连接可以跨节点扩展,以创建无缝、高频宽、多节点GPU集群,有效形成资料中心大小的GPU。在NVLink发展的这十年时间中,辉达已奠定了自身大型多GPU运算系统的优势基础。

不过,虽说辉达已有多年构筑起的护城河,但亦有机构分析师认为,UALink的出现是希望在乙太网路标准之上打造成本较低的技术,加上科技大厂急欲摆脱对辉达高度依赖的景况,因此UALink未来仍有打破辉达在AI资料中心网路中垄断的可能性;且当前AI才正要蓬勃发展,因此随着后市UALink逐步推进、系统制造商采用开放的产业标准后,行业内的竞争势必更加激烈,也就是说,各家公司都仍有机会在此领域取得新的突破。至于对于用户而言,这也意味着将有更多高性能、低成本的选择可供使用。

由此来看,这场AI大战可以说才正要开打,究竟辉达能否坐稳宝座,抑或是八国联军有望崛起,将无疑是市场未来一大焦点。

《先探投资周刊2307期》

全文及图表请见《先探投资周刊2307期精彩当期内文转载》