壁仞科技申请人工智能模型优化相关专利,提高人工智能模型计算效率

金融界2024年12月4日消息,国家知识产权局信息显示,上海壁仞科技股份有限公司申请一项名为“人工智能模型的优化方法、编译器、电子设备与存储介质”的专利,公开号 CN 119065680 A,申请日期为2024年11月。

专利摘要显示,本公开至少一实施例提供一种人工智能模型的优化方法、编译器、电子设备与存储介质。该人工智能模型的优化方法包括:将至少一个第一算子的初级表示编译为第一中间表示;将第二算子的初级表示编译为第二中间表示,其中,对第二中间表示的计算内容进行改写,以使第二中间表示包含将移位后的第一输出数据从非连续张量转化为连续张量的功能;基于第一中间表示与第二中间表示,将至少一个第一算子和第二算子进行融合,得到第一融合算子;将第一融合算子的第二输出数据作为目标算子的第一输入数据,其中,第一输入数据为连续张量。该人工智能模型的优化方法提高了人工智能模型的计算效率,提高了芯片的运行性能,扩展了深度学习框架对移位操作的支持。

本文源自:金融界

作者:情报员