《半导体》联发科运用Meta Llama 2拚AI 旗舰终端年底亮相

联发科无线通讯事业部总经理徐敬全表示,生成式AI的浪潮是数位转型的重要趋势之一,联发科的愿景是为Llama 2的开发者和终端使用者提供工具,带来更多令人振奋的AI创新机会和产品体验。透过与Meta的伙伴关系,联发科可提供更强大的硬体和软体整体解决方案,赋予终端装置更胜以往的强大AI效能。

目前大部分的生成式AI处理都是透过云端运算进行,联发科将生成式AI直接部署在终端装置,让开发者及使用者能直接在装置上使用Llama 2模型,借此提升性能、加强隐私保护、提高安全性及可靠性、降低延迟,能离线运算,并拥有节省成本的多项优势,让每个人都能享受到生成式AI带来的便利与创新。

要真正在装置上释放生成式AI的潜力,制造商需采用高运算、低功耗的AI处理器,以及更快、更可靠的连网性能,以增强整体运算能力。目前每一款由联发科技系统单晶片驱动的5G智慧手机皆配有APU,已有广泛执行多项生成式AI功能的成功实例,例如AI-NR杂讯抑制、AI-SR超高解析度、AI -MEMC动态补偿等。

联发科将于今年年底推出最新一代的旗舰晶片组,并采用针对Llama 2模型而优化的软体堆叠架构(NeuroPilot),与搭配支援Transformer模型做骨干网路加速的升级版AI处理单元,降低DRAM存取消耗及频宽占用,进一步强化大型语言模型和生成式AI的性能,以利开发者打造全新AI应用,加速终端应用的落地扩展。