高通宣布与Mistral AI合作　为边缘装置打造全新生成式AI模型

▲高通年度高峰会。（图／记者高兆麟摄）

记者高兆麟／综合报导

高通今日在Snapdragon高峰会上宣布与Mistral AI合作，将Mistral AI最先进的全新生成式AI模型Ministral 3B和Ministral 8B导入搭载Snapdragon系列平台的装置中，包括Snapdragon 8 Elite行动平台、专为汽车应用打造的Snapdragon Cockpit Elite和Snapdragon Ride Elite平台，以及专为AI PC打造的Snapdragon X系列运算平台。Ministral 3B和Manistral 8B是Mistral AI首款专为装置上运行使用所打造的顶级商用AI模型。

Mistral AI的Ministral 3B和Ministral 8B体积小巧，但功能强大，非常适合在智慧型手机、汽车、PC等装置中执行。在装置中搭载生成式AI可带来诸多好处，包括加强隐私性、降低延迟、可靠性、节省成本和提高能源效率。

高通资深副总裁暨技术规划和边缘解决方案业务总经理Durga Malladi表示：「我们很兴奋宣布与Mistral AI的合作，这将协助我们实现将最新AI技术应用于边缘装置的目标，Mistral AI的Ministral 3B和Ministral 8B将使设备制造商、软体商和数位服务供应商能够提供创新的使用体验，例如AI助理和其他能理解使用者需求的应用程式，这都要归功于装置上AI的即时性、可靠性和增强的隐私性。」

Mistral AI共同创办人暨执行长Arthur Mensch表示：「与高通技术公司的合作是Mistral AI的重要里程碑，这证明了我们的新模型能够在搭载Snapdragon系列平台的装置上于本机运行，进而实现速度更快的本地处理，协助降低成本与能源需求。透过合作，我们正实现先进AI的普及，让世界各地的开发人员和使用者都能在其装置上体验我们模型的完整潜力。」

两家公司正在合作，近期就会透过Qualcomm AI Hub将Ministral 3B和Ministral 8B开放给开发人员。开发人员现在可在Qualcomm AI Hub取得包括Mistral 7B v0.3等其他热门的Mistral AI模型，让开发人员和使用者皆能受惠于Mistral AI的先进功能。