為AI舖路 英特爾開發全世界最大的仿神經形態系統
英特尔开发全世界最大的仿神经形态系统以实现更永续的AI。图/英特尔提供
英特尔宣布推出全球最大的仿神经形态系统(neuromorphic system),代号Hala Point,最初布署在桑迪亚国家实验室,采用英特尔Loihi 2处理器,支援类人脑AI的最新研究,以因应当今AI面临的效率和永续性等挑战。Hala Point以英特尔第一代大规模研究系统Pohoiki Springs为基础,进行架构提升,神经元容量能增加10倍以上,效能提高12倍。
英特尔实验室神经形态运算总监Mike Davies表示,「当今训练和布署AI模型的成本增加速度过快,业界需要有翻转现况的新作法,因此英特尔实验室开发出Hala Point,它结合深度学习效率、类人脑持续学习和最佳化功能。我们希望透过Hala Point,突破大规模AI的技术效率,并让AI系统适应变化。」
Hala Point是业界第一款可在主流AI工作负载中,展现卓越运算效率的大规模仿神经形态系统,经过测试验证,能支援每秒高达20千兆次(20 petaops)的传统深度神经网路运算,超过每瓦15兆次8位元运算(TOPS/W),此速度等同于甚至超越目前的GPU和CPU架构。Hala Point的独特功能可望在未来AI应用的即时连续学习方面带来突破,例如科学和工程的问题解决、物流、智慧城市基础设施管理、大型语言模型(LLM)和AI代理。
目前Hala Point仍处于原型阶段,未来将可进一步应用于提升商业系统,英特尔预计这些经验将带来实际突破进展,例如提升大型语言模型(LLM)从新数据中持续学习的能力,进一步强化AI模型的训练精准度,并大幅降低布署AI的训练成本。
英特尔表示,Hala Point是在前一代Pohoiki Springs的基础上大量改善,将仿神经形态性能和效率提升的优势,延伸至视讯、语音和无线通讯等即时工作负载的主流深度学习模型中,推出后广获业界瞩目,在今年世界行动通讯大会中,爱立信研究中心透过Loihi 2改善电信基础设施效率的成果成为展会焦点。
Loihi 2神经形态处理器是Hala Point的核心基础,此处理器应用非同步、基于事件的脉冲神经网路(Spiking Neural Network,SNN)、整合记忆和运算,以及关联性推论类人脑运算原理;相较于目前需要定期使用不断成长的数据集,重新训练此类模型的方式,Loihi 2神经形态处理器不须透过记忆体,改以神经元直接相互沟通的作法,可有效降低整体功耗。