高通携手Meta Llama 3 引领终端设备AI新纪元

高通实现Meta Llama 3在搭载Snapdragon的装置上运行。图/高通提供

在人工智能浪潮袭卷全球的当下,高通技术公司与Meta宣布达成重要合作,将Meta最新开源的大型语言模型Llama 3最佳化,实现在搭载高通Snapdragon旗舰平台的终端设备上直接本地运行。

高通长期专注于推动终端设备AI的发展。此次与Meta的合作无疑将为市场带来颠覆性的变革;Llama 3作为Meta最新一代大型语言模型,在自然语言处理、内容生成等领域展现出惊人的能力。一旦移植到终端设备之上,势必引发全方位应用的创新浪潮。

Llama 3能在终端设备本地运行,意味着无需网路连线,即可实现多种AI应用场景,包括语音辨识、智慧问答、内容创作等,极大提升了实时反应能力。更重要的是,数据完全存储在设备内部,杜绝了来自网路传输环节的隐私和安全隐忧。

关键在于高通业界领先的CPU、GPU、神经网路处理器(NPU)等硬体,加上精心设计的记忆体系统和软体算法,使大型模型能在移动平台高效、稳定地运行,充分释放性能的同时兼顾功耗和散热,为终端AI应用的发展揭开新的大门。

高通资深副总裁暨技术规划和边缘解决方案业务总经理Durga Malladi表示:「我们与Meta的深度合作,旨在让开发者能够轻松存取各种资源,将Llama 3的强大功能充分引入Snapdragon生态系统,催化新一代令人兴奋的AI创新浪潮。」

事实上,高通已经在自家的Qualcomm AI Hub上整合近百个经过高度优化的AI模型和工具,供开发者直接调用。透过这一合作,Qualcomm AI Hub将为开发者提供更多支持,协助他们加快在Snapdragon平台上部署Llama 3的进程。

对消费者而言,这场AI革命正在悄然到来。未来,将在手机、平板、PC乃至VR/AR设备等终端上,体验到更智能、更个性化、也更安全可靠的AI助手,实现人机交互的崭新高度。