联发科推台版ChatGPT「连阿嬷都会用」 报帐、面试还能帮忙写程式

群联电子跟联发科合作,打造比传统AI伺服器耗电更少的「aiDAPTIV+」。(图/记者黄耀征、刘耿豪摄)

「大家都在问为什么联发科要做这件事情?因为我们蔡董说,『2024年让AI普及在台湾,是联发科技集团的使命』所以不管哪一个部门,都把这件事当成最重要的目标,而且要思考,生成式AI如何提升生产力。」联发科技人工智慧暨数据工程处副处长杨建洲向CTWANT记者表示。

晶片设计龙头跨界AI,联发科技在4月9日对外正式宣布生成式AI服务平台「MediaTek DaVinci」(联发科技达哥),背后的动机,除了董事长蔡明介认为联发科的竞争力就是「技术力」,更希望台湾产业加速导入生成式AI,让原本「超级富豪才玩得起的AI,可以用更便宜的方式、且各行各业都能取得。」群联电子技术长林纬说。

国际电机电子工程师学会(IEEE)今年5月将颁发电子产业最高个人荣誉之一 IEEE Robert N. Noyce Medal 予联发科技董事长蔡明介,以彰显他的远见及对全球半导体产业的影响力,赋予世界各地数十亿平民百姓使用先进科技的机会与带来的好处。

「我常跟团队说,如果你做出来的东西,你的阿嬷不会用的话,就要退回去,所以我们的平台必须要够开放、够安全,而且不断迭代进步。」杨建洲说。

MediaTek DaVinci原先是为集团内部打造具资料安全性、提高生产力的生成式AI工具,后续获各部门广泛使用。「其实DaVinci这个名字,是我们问系统,如果你想要一个有艺术、科技、人文特质的名字,要取什么,他就帮自己取了DaVinci达文西,」杨建洲跟CTWANT记者透露,「我觉得这个很棒,我们公司是『发哥』嘛,现在又有『达哥』,听起来很『发达』。」

联发科技人工智慧暨数据工程处副处长杨建洲。(图/记者黄耀征摄)

联发科人工智慧暨数据工程处协理叶家顺表示,联发科约2万名员工有1万人会写程式,所以在开发时就鼓励大家一起用,去年5月11日上线、12月推出智慧助理功能,目前达哥平台在联发科集团渗透率达96%,有跨50多个部门参与这个生成式AI专案,使用后更是取得8成以上的员工认同。

目前联发科内部使用达哥做软体开发的分析需求规格、生成技术文件,在编写程式部分,能协助写程式、协助除错和Code review等工作,另外还能帮助开发者自动生成测项、自动生成测试案例等,其他还有像是人资筛选履历和自动配对,财务自动辨识发票并报销流程,法务拿来专利翻译、合约修改,销售业务也可以即时查询客户订单出货等资讯。

「其实我们一开始就有同仁用达哥做炒股、抢票小帮手,不过后来都被公司删掉了,被说应该做点『正经事』。」联发科员工笑着说。

叶家顺坦言,目前达哥平台可能只有70分,但这是一套可不断进化的系统,达哥1.0在去年完成,今年2.0版本新添智慧助理架构,具备4个主要商店,包括AI模型、扩充外挂、提示范本、知识库(DVCs)等,使用者可用来打造适合自己的智慧助理。

此外,达哥平台本身也有内建一般企业常用的功能,像是DocChat可用来分析竞争对手、履历表媒合、技术文件摘要,VideoChat则能自动生成会议记录、产出YouTube影片摘要、TED影片摘要等,WebChat能用于技术趋势分析、市场趋势收集、产业新闻集锦等。而Plugins新功能,可提供企业知识检索、RPA自动化等。

各界都知道生成式AI很强,但实际落地很少,因此达哥平台在联发科内部上线测试后,台厂趋之若鹜,纷纷上门。「去年第二季集团内部开始测试后,第三季、第四季很多业界的学长学弟跑来询问,能不能让他们也试试看。」叶家顺说,联发科上个月开放给外部企业申请串接,目前已有数十家来自高科技、金融、电信、法律、制造、销售、服务、系统整合、云端服务等行业的企业,以及教育机构、新创公司加入。

生成式AI服务平台MediaTek DaVinci合作多家系统商,包含宏碁资讯服务、云馥数位、赛微科技、纬创软体等。(图/记者黄耀征摄)

目前该平台合作多家系统商,包含宏碁资讯服务(ABE)、云馥数位(CloudRiches)、赛微科技(Cyberon)、纬创软体(WITS)等;赛微科技表示,可以想像达哥平台就像是一个App Store,而系统厂就像是内容开发商,在上面开发不同的APP应用程式,与公司内部系统串接,假设员工要请假,只要在达哥平台介面上说「我要请假」,就会串接到公司人资系统,帮员工导入请假程序。

全球最大的独立快闪记忆体(NAND Flash)控制晶片IC设计厂群联电子跟联发科合作,以固态硬碟(SSD)整合AI运算架构,降低AI基础建设的硬体成本,打造比传统AI伺服器耗电更少的「aiDAPTIV+」方案,也就是一台电脑主机大小,就能让一般企业在公司里用内部网络使用自己的生成式AI,价格便宜、CP值高,插一般的电源就可以,不用特别帮机器吹冷气,也不怕上传云端后资料外泄。

群联电子技术长林纬表示,他们现在内部也在用达哥系统,因为过去老一辈的高层担心用ChatGPT资安会有问题、怎么控管、如果新创公司倒了怎么办等等问题,所以才停滞不前,而联发科推出这样的平台,解决了这些问题,「真的能更快地推动人类AI的普及。」

更多 CTWANT 报导