近乎零成本破解模型幻覺!清華團隊最新研究:逆向驗證法,讓AI 停止“瞎扯”,只需先驗證再作答

關於如何避免讓大語言模式產生幻覺,一直以來的相關研究都非常多。

剛剛,來自清華大學的兩位研究員公開了一個最新方法:讓LLMs 「先驗證,再作答」。

它的核心想法很簡單:先給模型一個候選答案(即使是隨機的或極其簡單的答案),讓模型先驗證這個答案,再產生最終正確結果。

這個「先驗證,再作答」的小技巧,不僅大大降低邏輯錯誤率,還能激發模型的批判性思維,而且幾乎不增加任何額外成本。

他們將這種方法稱為「先驗」(VF,Verification-First),並且實驗發現:

  • 使用隨機答案的VF 始終優於標準CoT,且幾乎沒有額外計算開銷;
  • 其擴展方法Iter-VF 的表現則超越了現有的各類TTS 方法。

由於成本很低,因此論文標題也很有趣:要求LLMs 先驗證幾乎是「免費午餐」。

讓模型先驗證,再回答

傳統AI 解題是從零開始產生答案,而VF 的方法是:

  1. 先給AI 一個候選答案,即使它完全錯誤或不相關;
  2. 讓AI 檢查這個答案是否合理;
  3. 再正式生成最終答案。

舉個例子,在下面這張圖中,用普通煉式思維(CoT)提示,模型可能流暢地回答,但結果錯了;而使用VF 提示,模型先驗證候選答案,理清邏輯順序,最終給出正確結果。

這個「反向推理」過程有什麼用呢?

  1. 減少粗心錯誤:模型需要先檢驗候選答案,會更仔細分析問題,而不是直接輸出答案。
  2. 促使邏輯反思:透過逆向檢查,模型會發現隱藏的結構,避免被表面資訊誤導。
  3. 修正想法偏差:即使候選答案明顯錯誤,模型也能透過驗證發現邏輯漏洞,從而得出正確答案。

在現實應用中,例如寫程式碼或呼叫API,很難隨便提供候選答案。論文提出了升級方案 Iter-VF:

  1. 先依常規產生最佳答案;
  2. 將該答案回饋給VF 框架,讓AI 自我驗證並修正;
  3. 循環迭代,每次只專注於最近一次的答案,避免歷史錯誤干擾。

與其他自我修正策略相比,這種方式不會把先前的錯誤累積進推理鏈,保持思路清晰。

實測效果:穩、准、低成本

研究團隊在數學、科學問答、程式設計和封閉商業模型(如GPT-5 Nano / Mini)上進行了大量測試,結果顯示:

全模型規模適用:從1B 到72B 參數的Qwen2.5 和Llama3 系列模型,VF 和Iter-VF 都明顯優於傳統煉式思維;

  • 數學推理提升明顯:GSM8K、MATH500 上,即便候選答案荒唐或隨機,AI 也能透過驗證得到更好推理結果;
  • 科學問答穩定提升:GPQA-Diamond 上依賴知識儲備的任務中,提升雖小但持續存在;
  • 低運算成本:增加驗證步驟只需額外20–50% 的輸出token,相較於多取樣或遞迴規劃的策略,成本極低;


研究團隊也將Iter-VF和其他4種測試時擴展(TTS)策略進行了對比

  • Self-Correction(自我反思):會累積先前的推理,有時導致混亂;
  • PHP(上下文提示):雖然重複使用之前答案,但AI 利用不充分,效果一般;
  • Self-Consistency(多​​數票) 與 Best-of-N(多重輸出選最優):避免了累積問題,但提升緩慢且成本高;
  • Iter-VF:每次只專注於最近一次答案,馬可夫風格迭代,低成本下效果最好。

此外,在閉源模型如GPT-5、Gemini 2.5、Grok 4上,即使無法看到AI 的內部推理步驟,Iter-VF 也能提升最終答案精準率。

寫在最後

對於經常使用大模型的人來說,可能都會慢慢摸索一套“小技巧”,來規避模型的各種短板。這篇論文也為我們帶來了一個很簡單的技巧:先讓AI 核對一個答案,再正式作答。

它的好處很多:觸發不同的推理路徑、減少錯誤和幻覺、不依賴額外訓練或複雜工具、適用於開源和閉源模型。

這幾乎是零成本的操作,就能讓AI 答案更可靠。而這個方法看起來就像是一個通用且高效的「通關秘籍」,幾乎可以在不同模型間通用

另外,作者也特別強調了這個方法的極高經濟性,也就是低成本、高收益。在如今超大規模AI 的背景下,每項運算資源都是寶貴的,這種節省也是實際應用中至關重要的策略。

大家可以趕快動手實踐起來,測試一下這個方法究竟有沒有效! (51CTO技術堆疊)