白龙马云行科技申请基于大模型自我校验用于RAG系统缓解大语言模型幻觉的方法专利，缓解大语言模型幻觉

金融界2024年11月14日消息，国家知识产权局信息显示，北京白龙马云行科技有限公司申请一项名为“一种基于大模型自我校验用于RAG系统缓解大语言模型幻觉的方法”的专利，公开号 CN 118940839 A，申请日期为2024年7月。

专利摘要显示，本发明涉及一种基于大模型自我校验用于RAG系统缓解大语言模型幻觉的方法，涉及辅助检索技术领域，当用户输入问题后，RAG系统从数据库中检索相关信息并生成提示工程，用于引导大语言模型生成答案，根据生成的提示工程，使用大语言模型生成答案，并使用同一大语言模型对生成的答案进行校验，以判断其是否符合预期，根据校验结果，计算幻觉概率和检查概率，并将计算到的结果相乘，得到存在幻觉的答案的综合概率，并将计算得到的综合概率与幻觉概率进行比较，判断生成的答案是否可信，当判断生成的答案不可信，通过调整生成模型参数，重新生成答案。

本文源自：金融界

作者：情报员