聯發科擴大生成式AI生態圈 打造繁體中文大型語言模型

联发科宣布推出生成式AI服务平台MediaTek DaVinci。 图/联合报系资料照

联发科(2454)冲刺AI市场再出招,昨(9)日宣布以辉达(NVIDIA)的超级电脑,抢进生成式AI服务,打造出当下地表最强的繁体中文大型语言模型,参数模型高达450亿个,能力超越GPT-3.5,并广发英雄帖加入,积极扩大生态圈伙伴,合力把饼做大。

迎接AI浪潮,联发科除了使自家晶片支援生成式AI功能,也同时开启另一扇门,提供企业开发与导入生成式AI服务的平台。

联发科昨天举行生成式AI论坛,宣布推出生成式AI服务平台「MediaTek DaVinci」,也暱称为「联发科技达哥」,同时让其最新繁体中文大型语言模型MR BreeXe亮相。

联发科催生的达哥平台,简言之就是当企业想把生成式AI导入到公司内部工作流程,或是对外部提供的服务中,此平台提供可选择方案与可插入的模组功能为基础,然后可汇入企业专有的数据资料,来共同组成为企业量身订做的生成式AI平台方案。

联发科表示,MediaTek DaVinci提供高整合度、高扩展性的开放平台,让开发者可为各行业开发客制化生成式AI扩充外挂、助理等应用。

联发科人工智慧暨数据工程处协理叶家顺强调,MediaTek DaVinci可解决许多企业在采用生成式AI时的痛点,让各行各业在确保资讯安全的环境下,可善用已有强大基础的平台开发专属的生成式AI应用。随着更多企业与开发者加入MediaTek DaVinci生态系,相信MediaTek DaVinci的能力将持续爆发性成长。

同时,MediaTek DaVinci 支援各类大语言模型,包含联发科自家联发创新基地最新释出的繁体中文大语言模型MR BreeXe。

联发科提到,MR BreeXe有节省运算资源、提升速度等优势,再加上联发创新基地的预训练(pre-training)之后,不但在繁体中文测试项目超越GPT-3.5,并对台湾常见的地端应用特别进行优化,提升产业界使用生成式AI 与检索增强生成(RAG)的体验。

联发科举例说,「母汤」这个用词,其实是由「不可以」的台语音译而来,在其他模型可能难以理解,但MR BreeXe对于台湾独有用词的运用,就胜过其他所有已知的模型。而且MR BreeXe的长内文功能,可以处理高达4万个字。

联发科并提到,MR BreeXe是在辉达的Taipei -1 GPU超级电脑DGX GH200上进行训练,透过MediaTek DaVinci,支援全地端与部分地端的布设场景,并可依需求进行多样本学习,甚至微调客制化。

延伸阅读

联发科生成式AI服务平台「达哥」有卖点 内销转外销