北京有竹居网络技术申请利用子图执行引擎进行模型选择的专利，能够基于模型选择策略确定执行待推理任务的模型

金融界2024年11月14日消息，国家知识产权局信息显示，北京有竹居网络技术有限公司申请一项名为“一种利用子图执行引擎进行模型选择的方法及装置”的专利，公开号CN 118940858 A，申请日期为2024年7月。

专利摘要显示，本申请公开了一种利用子图执行引擎进行模型选择的方法，包括：获取待推理任务对应的模型选择策略，该模型选择策略用于选择执行待推理任务的模型，模型选择策略包括至少一个字段和至少一个字段对应的判断条件。根据预先保存于子图执行引擎中的服务之间的依赖关系，确定获得至少一个字段所需执行的目标服务。执行目标服务以得到至少一个字段的值。根据至少一个字段的值和模型选择策略，确定执行待推理任务的目标模型目标模型为大模型或者小模型。由此可见，本方案能够基于模型选择策略，来确定究竟是采用大模型还是小模型来执行待推理任务，本方案对小模型的输出格式无严格要求，因此，本方案可以为各种场景对应的待推理任务选择对应的模型。

本文源自：金融界

作者：情报员