記憶體內運算技術的先驅Rain AI宣布 晶心科成為其RISC-V合作夥伴

晶心科董事长林志明。图/联合报系资料照片

RISC-V处理器核心领导供应商暨RISC-V国际协会创始首席会员晶心科（6533），今日宣布向记忆体内计算（CIM）技术的先驱者Rain AI授权使用晶心RISC-V向量处理器AX45MPV。Rain AI设计了新颖的加速器解决方案，且双方正在合作并加速推进Rain AI产品开发。

随着全球经济大量采用生成式人工智慧为消费者及企业提供前所未有的利益，无论是应用在云端、边缘，或特别是在最小的感测器中，能量消耗是一大挑战。记忆体内计算（CIM）是目前降低能耗最具潜力的解决方案，可将能耗降低多达50倍。透过直接在记忆体单元中执行计算，CIM可以显著减少机器学习中常见矩阵运算所需的能量。

然而，仅凭CIM本身并无法完全解决大量且不断增长的机器学习运算需求。RISC-V CPU为基于CIM基础的NPU提供高效编程且未来看好的理想处理器选择，且RISC-V架构允许用户能够添加客制指令来呼叫CIM计算模块，从而减轻软体开发的负担。晶心科为此特别提供COPILOT编译器来自动化客制化指令的过程。

晶心科董事长暨执行长林志明表示，作为世界首家RISC-V向量处理器供应商，我们认为CIM是实现生成式AI应用的必要技术，也因此专注于支持CIM客户。Rain AI采用数位CIM技术设计了最节能的矩阵乘法单元，期待Rain AI 在未来发布突破性的解决方案。

Rain AI执行长William Passo表示，将最先进的模型在任何外型尺寸的装置中运行是人工智慧的未来，与晶心的合作让双方更向此迈进一大步。

Rain AI进一步与晶心客制运算事业部（CCBU）合作，透过现场及远距咨询服务，协助加速整合晶心AX45MPV和ACE/COPILOT客制指令。晶心客制运算事业部（CCBU）是一支由专家组成的小团队，负责为一些具有领先技术的授权客户进行复杂的客制及整合工作。

两家公司可共同分享AX45MPV和晶心独特的RISC-V客制指令技术ACE/COPILOT的独到之处。ACE/COPILOT在补充Rain AI开创性的CIM硬体、编译器和软体中发挥至关重要的作用，提供可扩展的机器学习（ML）解决方案，适用于多种部署形式。Rain AI将在2025年初发表其加速器解决方案。