OPPO 申请模型量化方法专利,有效降低乘法器的计算开销
金融界 2024 年 12 月 12 日消息,国家知识产权局信息显示,OPPO 广东移动通信有限公司申请一项名为“模型量化方法、装置、计算机设备及存储介质”的专利,公开号 CN 119107479 A,申请日期为 2023 年 6 月。
专利摘要显示,本申请提供了一种模型量化方法、装置、计算机设备及存储介质,属于计算机技术领域。该方法包括:对于图像分类模型的任一网络层,在网络层的权重和输入图像在网络层的输入特征值呈长尾分布的情况下,基于第一量化位宽,分别对权重和输入特征值进行量化,得到网络层的第一量化权重和第一量化特征值;在第一量化位宽不小于第二量化位宽的情况下,分别对第一量化权重和第一量化特征值进行截断,得到长度为第二量化位宽的第二量化权重和第二量化特征值;对第二量化权重和第二量化特征值进行加权,得到网络层的输出特征值。上述方案能够在保持第二量化权重和第二量化特征值较大数值表示范围和较高量化精度的情况下,有效降低乘法器的计算开销。
本文源自:金融界
作者:情报员