群聯潘建成推平價 AI 如苦行僧 但「賭對」黃仁勳這件事

潘建成透露群联跟新光医院合作用AI解读正子断层造影,让诊断结果可以马上判读。王郁伦摄影

群联(8299)2023年发表平民AI解决方案aiDAPTIV +,董事长潘建成如苦行僧逢人推广,迄今累积200多个POC(场域验证),他苦笑至少他只说了12个月,比黄仁勋当年讲了12年AI,还没人理好一点;不过,他透露唯一「赌对了」,是预测2025年辉达将大谈边缘运算,黄仁勋果真在圣诞节前夕拍影片从烤箱拿出边缘AI新货。

群联的aiDAPTIV +诉求以其软体专利,将系统中SSD取代DRAM,搭配常规绘图卡就能跑LLM(大语言模型),让AI伺服器从高价的300万美元,变成只要300万新台币,潘建成期望借此让AI平民化,不仅人人都能用AI,更能保护隐私打造私有AI。

他从2023年开始推广,至今进度并不如预期乐观,他大吐苦水「客户不是不用,是不知道怎么用」,这使得群联从本来只打算卖零组件,现在包山包海做解决方案,要让客户用得满意再付钱,累积已经达200多个客制化POC案例。

他苦笑过去一年台湾的一哥到九哥他都找过了,多数人都认可此生意,但「推动到最后,发现大家都来看戏。」原因是原因是没有立即的营收,其次是找不到懂得人来做。

潘建成出席27日工研院「AI赋能.半导体领航—2024南台湾产业策略论坛」谈产业AI化,AI平民化主题,他推动aiDAPTIV +正符合AI平民化目标,但也因此揭露AI在中小企业及机关行号的推动难度。

目前他针对企业行号推出300万元私有AI解决方案,针对教育现场更推10~12万元的AI训练PC,可以微调跑13B参数的大语言模型,相对辉达GB200机柜一柜要1亿美元,即便费用便宜这么多,潘建成苦笑:学校还是喊贵,拜托群联能不能「捐」几台?

潘建成苦笑说,系统中的GPU跟CPU都不是群联做的,还好现在学校开始劝募,马偕护校前阵子才募款600万元,向群联采购50台,下学期将建置起来开AI课程。

另外群联也跟新光医院合作,新光医院最有名就是正子断层造影,过去是医生看片子写诊断病例,新光拿出累积的7万片图像训练VLM(大型视觉语言模型),经过大量训练跟校正,现在只要病人图像进去,诊断报告就能直接跑出来,减少医生因疲劳而出现解读错误的可能。

群联也跟新竹某医院合作POC,AI将在门诊上线于医生跟病人对谈问问题时把病历填好,除会转换成医学专有名词,记录病人记录跟状况,让医生有更多时间跟病人沟通,也会把护理师常回答病人的提问QA做成AI工具,让病人询问。

潘建成表示,他唯一「打赌」赌对的,是他预测2025年辉达就会开始讲Edge AI,结果黄仁勋果然在圣诞节前自己发布影片,从家中烤箱中端出Jetson Orin Nano Super边缘AI电脑,仅249美元,潘建成开心地说辉达为何要从几十万美元起跳的商品卖到200多美元?因为边缘才是大家真正用到AI的地方。

工研院举行「AI赋能.半导体领航—2024南台湾产业策略论坛」谈产业AI化,AI平民化主题,邀请群联、李长荣化工、台中荣总分享经验。王郁伦摄影