上海壁仞科技申请一种缓存行调度方法专利,提高人工智能芯片性能

金融界2024年11月22日消息,国家知识产权局信息显示,上海壁仞科技股份有限公司申请一项名为“一种缓存行调度方法、设备、存储介质及程序产品”的专利,公开号 CN 118981446 A,申请日期为 2024 年 8 月。

专利摘要显示,本申请实施例提供了一种缓存行调度方法、设 备、存储介质及程序产品,涉及人工智能技术领域,该方法包括:调度多个线程束在第一时间窗口发出用于访问不同缓存行的第一访存指令,这样,按照多个线程束各自发出的第一访存指令的访存地址,可控制多个线程束访问不同的缓存行,避免了没有访存合并的多个线程束在同一时间窗内访问同一缓存行带来的数据竞争。其次,由于多个线程束在第一时间窗口独立访问不同的缓存行,因此,一些线程束并不需要等待另外的线程束访问完缓存行后才开始访问同一缓存行,这样降低了线程束在访问缓存行时的等待时间,从而提高缓存行的调度性能,进而提高人工智能芯片的性能。

本文源自:金融界

作者:情报员