算力達每秒千兆次浮點運算 陽交大啟用AI高速運算平台
阳明交通大学AI高速运算平台今天正式启用,成为国内首座搭载最新Nvidia DGX H200(如图)伺服器的大学。记者黄羿馨/摄影
阳明交通大学今天正式启用AI高速运算平台,成为国内首座搭载最新Nvidia DGX H200伺服器的大学,平台包括2台H100和3台H200伺服器,拥有40片GPU运算卡,算力达每秒千兆次浮点运算。未来将可支援校内研究团队GPU算力需求,并推动数位转型、培育更多AI领域人才,提升阳明交大在AI研究领域的国际竞争力。
阳明交大资讯技术服务中心主任施仁忠指出,现有的AI高速运算平台,已配备2台DGX H100伺服器,未来半年内将陆续整合3台DGX H200伺服器,并引入AI高速平行档案系统加入阵列,搭配无线频宽交换机,使总共40片H100/H200 GPU运算卡可丛集使用。现有平台也已搭配资源排程与管理软体,将可有效率且弹性地提供AI运算资源给各校内研究团队使用。
主要研究AI模型训练的电机系教授简仁宗指出,过去需要跑一天的实验结果,在使用了校方最新建置的AI高速运算平台后,只需花2个多小时,且在4倍多记忆体扩充下,训练出效能更强、预测更准的AI模型。研究影像辨识系统设计的博士生冉达恩,使用平台1个月后已得到足够资料,已将结果撰写成论文,投到国际会议及国际期刊中发表。
阳明交大校长林奇宏表示,为强化在AI研究领域的实力,学校建置AI高速运算平台,今天启用典礼除了感谢尊博科技执行董事许顺宗捐赠1千万,用于母校购置GPU伺服器,同时也邀请到辉达全球副总裁暨台湾区总经理邱丽孟见证仪式,共同宣示借由提升学校在GPU高速运算资源的建置,迎向未来AI时代的挑战,厚植AI研究技术与能量。
阳明交大表示,AI高速运算平台目标在整合和提供校内所需的GPU运算资源,提升全校运算资源建置的效率,并搭配校内绿能机房,电力使用效率可达1.58,有效节省能耗、减少碳排。
此外,在现今资安至关重要的时代,保护运算资源亦是一项重要任务,团队将延续资讯中心既有的完善资安防护机制,包含安全远端存取、防火墙和异常监控等,对AI高速运算平台进行资安防护。
阳明交大资讯技术服务中心主任施仁忠指出,现有的AI高速运算平台,已配备2台DGX H100伺服器,未来半年内将陆续整合3台DGX H200伺服器。图/阳明交大提供
尊博科技捐赠母校阳明交大1千万,用于母校购置GPU伺服器。记者黄羿馨/摄影
阳明交大表示,AI高速运算平台目标在整合和提供校内所需的GPU运算资源,提升全校运算资源建置的效率。记者黄羿馨/摄影
阳明交大资讯技术服务中心主任施仁忠(右)指出,现有的AI高速运算平台,已配备2台DGX H100伺服器,未来半年内将陆续整合3台DGX H200伺服器。记者黄羿馨/摄影
今天启用典礼除了感谢尊博科技捐赠1千万,用于购置GPU伺服器,同时也邀请到辉达全球副总裁暨台湾区总经理邱丽孟(左2)见证仪式。记者黄羿馨/摄影