白龍馬雲行科技申請基於大模型自我校驗用於RAG系統緩解大語言模型幻覺的方法專利，緩解大語言模型幻覺

金融界2024年11月14日消息，國家知識產權局信息顯示，北京白龍馬雲行科技有限公司申請一項名爲“一種基於大模型自我校驗用於RAG系統緩解大語言模型幻覺的方法”的專利，公開號 CN 118940839 A，申請日期爲2024年7月。

專利摘要顯示，本發明涉及一種基於大模型自我校驗用於RAG系統緩解大語言模型幻覺的方法，涉及輔助檢索技術領域，當用戶輸入問題後，RAG系統從數據庫中檢索相關信息並生成提示工程，用於引導大語言模型生成答案，根據生成的提示工程，使用大語言模型生成答案，並使用同一大語言模型對生成的答案進行校驗，以判斷其是否符合預期，根據校驗結果，計算幻覺概率和檢查概率，並將計算到的結果相乘，得到存在幻覺的答案的綜合概率，並將計算得到的綜合概率與幻覺概率進行比較，判斷生成的答案是否可信，當判斷生成的答案不可信，通過調整生成模型參數，重新生成答案。

本文源自：金融界

作者：情報員