北京大学申请中文医学大语言模型训练方法及装置专利,提高大语言模型在医学领域回答的准确度

金融界 2024 年 8 月 20 日消息,天眼查知识产权信息显示,北京大学,北京六元空间信息科技有限责任公司申请一项名为“中文医学大语言模型训练方法及装置“,公开号 CN202410949277.2 ,申请日期为 2024 年 7 月。

专利摘要显示,本申请公开了一种中文医学大语言模型训练方法及装置,涉及自然语言处理技术领域,所述的方法包括:通过医学文本对预设大语言模型进行预学习训练,使得大语言模型在语义层面上理解专业医学知识。根据开源中文医学考试数据集对预训练后的模型进行监督微调训练,从而降低计算复杂度和内存需求,这使得在保持模型性能的同时,能够在有限的计算资源下进行高效的微调。最后根据构建的知识图谱和强化学习数据集进行知识反馈的强化学习,有助于解决监督微调后由于模型过度拟合而出现的“幻觉”现象,从而将大语言模型的输出与相关的专业医学知识进行充分对齐,提高大语言模型在医学领域回答的准确度。

本文源自:金融界

作者:情报员