解決AI晶片記憶體頻寬瓶頸 晶心科結盟TetraMem

晶心科技董事长林志明（左）与总经理苏泓萌。 联合报系资料照／记者陈正兴摄影

RISC-V矽智财（IP）厂晶心科技（6533） 与类比式忆阻器（analog memristor）技术和记忆体运算（in-memory computing）厂TetraMem，宣布建立战略合作伙伴关系。晶心科表示，未来双方将会盒座提供快速、高效的人工智慧推理晶片，这将彻底改变人工智慧和边缘运算的格局，晶片产品将于2024年下半年推出，有望替晶心科带来庞大AI业绩动能。

人工智慧和边缘运算的融合已成为许多行业进步的驱动力，包括自动驾驶车辆、智慧城市、医疗保健、网路安全和娱乐。认识到这个市场的巨大潜力，TetraMem已取得晶心科技强大的RISC-V NX27V向量处理器授权，结合ACE （Andes Custom Extension）的客制化功能，创建尖端解决方案，以解决人工智慧运算在功耗受限制的环境所遇到的问题。

此次合作的核心是晶心科技的高效能RISC-V向量处理器与TetraMem革命性的忆阻器（类比式RRAM）运算透过ACE客制化的功能，使记忆体运算（in-memory computing）架构相融合，实现紧密耦合以获得最佳效能。

晶心科表示，这种史无前例的融合模式同时增强了两家公司的产品优势，带来了速度极快、并且极为节能的人工智慧推理产品，超越了传统运算方法的局限性，超越「记忆体撞墙效应」和「摩尔定律」的限制。

据了解，AI晶片虽然采用2.5D或3D先进封装，将处理器及DRAM整合封装在同一晶片中，但仍是采用处理器与DRAM分开的架构，所以AI晶片在执行AI运算时，因为资料量过于庞大，DRAM的读写速率跟不上，处理器及DRAM之间传输速率宽频不够大，就会造成处理器算力闲置并形成所谓的范纽曼瓶颈（von Neumann bottleneck）。

TetraMem独特的类比式记忆体运算技术使晶片能够进行大量平行之虚拟机器管理机（Virtual Machine Manager，VMM）运算，而无需移动资料，从而减轻了传统架构的能耗，TetraMem的第一代商用制造展示晶片已证实了这一优点。

这颗AI加速器晶片的设计可用在22奈米到7奈米或更高阶的制程，并同时考虑到多功能性和可扩展性，以便轻松整合到各式实现AI的产品和应用中。此种高适应性确保了该晶片可广泛在业界中被使用。

不仅如此，TetraMem创始团队已展示了忆阻器运算可应用至2奈米或更高阶制程，并确认了此类解决方案的产品路线图将可与时俱进。

Tetramem预计将推出AI加速器晶片并为新型22nm制造工程测试版和软体开发工具包，「TetraMem MX系列」晶片将于2024年下半年推出。晶心科技与TetraMem的合作标示着人工智慧硬体领域的重大飞跃，有望为AI创新带来前所未有的可能性。