群联、联发科 催生平民版GAI

群联董座潘健成。图／本报资料照片

AI市场分层

台厂发力AI新蓝海市场，不与云端AI直接竞争，锁定边缘、中小型运算需求，致力生成式人工智慧（GAI）平民化、普及化。群联董事长潘健成指出，不需要额外投资，用传统PC基础设备，即能达到70B参数AI运算；联发科资深处长梁伯嵩强调，边缘与云端CPU设计有非常大的不同，轻巧化、高能源效率将为未来趋势。

潘健成以20年前机械手臂为例，当时要价1,500万的设备，如今已普及全部工厂；典范转移正发生于生成式AI身上。他指出，市场如今面临一样的问题，顶级GPU太贵、中小企业想用却用不起，群联本身也遇到相同痛点，遂开始投入研发，以自身于记忆体领域优势，在近期推出平价版生成式AI解决方案。

GPU决定算力、HBM则决定模型大小，潘健成指出，群联以SSD取代造价高昂的HBM系统，加上辉达消费级GPU打造，将传统工作站升级为小规模AI伺服器，硬体成本大幅降低；尽管运算速度仍不如大型CSP运端运算，不过相当具备成本优势；他打趣地说道，台北到高雄，坐飞机最快、但是高铁更有性价比。

梁伯嵩则分析，行动处理器在AI人工智慧计算上，受到更多限制。10年之间，手机CPU在同样面积下，电晶体数量由10亿成长至200亿个，但受限功耗，在设计上就需要进行取舍，尤其要以几十亿之参数模型进行推论，考验IC设计公司技术实力。

要让大型神经网路的AI能力涌现（Emergence），需要极大量运算需求，短短七年间成长三十万倍以上，远超过半导体摩尔定律的成长速度，让AI快速进入 Large-Scale Era。梁伯嵩表示，现阶段将大型神经网路透过预训练后，再Fine Tune（微调）进行下游任务训练，两阶段的训练方式，将协助生成式AI普及化。

运算需求成为AI进展与普及的关键，更是半导体产业的全新机会。台湾身处半导体产业链的关键角色，从IC的制造者，也同时成为AI应用的领先群，使台湾科技产业更上一层楼。