群联自研AI服务方案

群联执行长潘健成将在该公司于8月4日举行的第二季线上法说上，亲自剖析对AI浪潮的看法。

群联的AI服务方案，也将在于美西时间8月8日至8月10日于美国的快闪记忆体峰会（Flash Memory Summit）亮相。

群联的AI服务方案，为整合SSD的AI运算架构，将大型AI模型做结构性拆分，并将模型参数随应用时间序列与SSD协同运行，以达到在有限的GPU与DRAM资源下，最大化可执行的AI模型，预计能有效降低提供AI服务，所需投入的硬体建构成本。

首波应用在导入整合SSD协同运算的量产aiDAPTIV+AOI光学检测系统，可帮助SMT工厂加速进入工业4.0，降低硬体建置成本，提升不良率的检测效率，消除人力检测所导致的不稳定性。

近期随着ChatGPT等超大型AI模型的兴起，带动AI于未来可能辅助企业与个人的想像空间。因AI模型的成长速度极快，也导致提供AI服务的硬体建构成本大幅提升。

其主要原因为现行AI模型，主要运行于GPU与DRAM当中，但未来AI模型的成长速度，将远超过GPU与DRAM可供给的量。

根据微软研究报告指出，AI模型的成长速度将会是GPU卡中的DRAM成长速度的200倍。换言之，现行的AI运算硬体架构成长速度，已无法满足AI应用的需求。

群联的aiDAPTIV+AOI服务，适用于各种SMT产品线，包含SSD、显示卡、DRAM、主机板等，目前已有凌华、技钢等将近10家的SMT伙伴，参与群联AI服务系统测试，已有效提升客户与SMT厂既有AOI系统的准确率。