欢太科技申请搜索相关专利,提高待训练模型训练效率

金融界2024年10月31日消息,国家知识产权局信息显示,深圳市欢太科技有限公司申请一项名为“搜索方法、搜索装置、计算机设备及存储介质”的专利,公开号CN 118838917 A,申请日期为2023年4月。

专利摘要显示,本申请公开一种搜索方法、搜索装置、计算机设备和非易失性计算机可读存储介质。搜索方法包括根据待训练模型运行时的真实参数量和激活值,确定待训练模型的总显存占用量;根据各个并行组合参数和总显存占用量,确定各个并行组合参数对应的单卡显存占用量,多个并行组合参数由预设的多个并行参数组合而成;在多个并行组合参数中,筛选出单卡显存占用量小于当前计算机设备的单卡存储上限的多个目标并行组合参数。如此,在多个并行组合参数中筛选出符合要求的并行组合参数,能够节省后续进行最优批量大小搜索,以获取最优训练配置所需的时间,从而提高待训练模型训练的效率。

本文源自:金融界

作者:情报员