大型語言模型(LLMS)以其產(chǎn)生連貫的文本，翻譯語言甚至進(jìn)行對(duì)話的能力而破壞了AI。但是，盡管具有令人印象深刻的能力，但在推理和理解復(fù)雜環(huán)境方面，LLM仍然面臨重大挑戰(zhàn)。

這些模型雖然善于識(shí)別和復(fù)制大量培訓(xùn)文本的模式，但經(jīng)常在需要真正理解和邏輯推理的任務(wù)上掙扎。這可能會(huì)導(dǎo)致諸如長時(shí)間對(duì)話中的不一致之處，連接不同信息的錯(cuò)誤以及在維持有關(guān)擴(kuò)展敘述的上下文時(shí)遇到的困難。了解這些推理問題對(duì)于改善LLM的未來發(fā)展和應(yīng)用至關(guān)重要。

關(guān)鍵推理挑戰(zhàn)

缺乏真正的理解

語言模型通過根據(jù)他們?cè)谂嘤?xùn)期間從廣泛的數(shù)據(jù)中學(xué)到的模式來預(yù)測(cè)下一個(gè)關(guān)鍵字來運(yùn)行。但是，他們?nèi)狈?duì)環(huán)境和討論的概念的深刻，內(nèi)在的理解。結(jié)果，他們可能會(huì)發(fā)現(xiàn)需要真正理解挑戰(zhàn)的復(fù)雜推理任務(wù)。

上下文限制

盡管現(xiàn)代語言模型在掌握短篇小說方面表現(xiàn)出色，但它們通常很難在擴(kuò)展的對(duì)話或更大的文本段上保持連貫性和背景。當(dāng)模型必須從對(duì)話或文本的各個(gè)部分鏈接信息時(shí)，這可能會(huì)導(dǎo)致推理錯(cuò)誤。在漫長的討論或復(fù)雜的敘述中，該模型可能會(huì)忘記或誤解早期的細(xì)節(jié)，從而導(dǎo)致矛盾或不準(zhǔn)確的結(jié)論。

無法執(zhí)行計(jì)劃

許多推理任務(wù)涉及邏輯的多個(gè)步驟或隨著時(shí)間的推移跟蹤許多事實(shí)的能力。當(dāng)前的語言模型通常在需要長期連貫性或多步邏輯推論的任務(wù)上掙扎。他們可能難以解決需要多個(gè)邏輯操作的難題。

回答無法解決的問題

回答無法解決的問題是LLM的一個(gè)關(guān)鍵挑戰(zhàn)，并突出了其推理能力的局限性。當(dāng)提出一個(gè)無法解決的問題時(shí)，例如悖論，沒有明確答案的問題，或與已建立的事實(shí)相矛盾的問題時(shí)，LLM可能會(huì)難以提供有意義或連貫的回答。該模型不能意識(shí)到問題的固有不可能，而是嘗試根據(jù)已經(jīng)訓(xùn)練的數(shù)據(jù)中的模式提供解決方案，這可能會(huì)導(dǎo)致誤導(dǎo)或錯(cuò)誤的答案。

國家空間計(jì)算復(fù)雜性

一些問題需要探索從初始狀態(tài)到目標(biāo)狀態(tài)的所有可能狀態(tài)。例如，旅行計(jì)劃可能涉及許多選擇，并且有了其他限制，例如預(yù)算和旅行方式，搜索狀態(tài)空間可以接近多項(xiàng)式爆炸。語言模型計(jì)算和響應(yīng)所有這些可能性是不切實(shí)際的。取而代之的是，它將依靠它所學(xué)會(huì)的啟發(fā)式方法提供可能是不正確的可行解決方案。

不正確推理的真實(shí)示例

讓我們提出一個(gè)問題：

純文本

1

“一個(gè)裝滿了8個(gè)水的水罐，還有兩個(gè)空尺寸5和5的空壺。

2

求解器必須倒入水，以使第一壺和第二壺都包含4個(gè)單元，而第三壺則是空的。

3

當(dāng)源壺為空或目的地水罐已滿，以先到者為準(zhǔn)時(shí)，每個(gè)步驟將水從源果罐倒入目的地水罐停止。

從下面的回答中，我們可以看到，今天存在的LLM給出了錯(cuò)誤的答案。這個(gè)問題實(shí)際上是無法解決的，但是所有LLM都試圖給出一個(gè)答案，就好像他們找到了解決方案一樣。

Chatgpt的回應(yīng)

Google的回應(yīng)

Bing Copilot的回應(yīng)

LLMS背誦與推理

但是，如果您要將問題更改為“兩個(gè)空的尺寸為5和4”，而不是“兩個(gè)空的尺寸5和5”，那么所有LLM都會(huì)正確回答記憶的問題。

研究人員建議什么來幫助推理?

一些研究人員專注于改進(jìn)數(shù)據(jù)集并使用思想鏈方法，而另一些研究人員則建議使用外部驗(yàn)證者和求解器。這些技術(shù)中的每一個(gè)旨在通過解決問題的不同維度來帶來改進(jìn)。

改進(jìn)數(shù)據(jù)集

一些研究人員建議提高用于培訓(xùn)語言模型的數(shù)據(jù)的質(zhì)量和多樣性。通過策劃更全面和多樣化的數(shù)據(jù)集，模型可以從更廣泛的上下文和示例中學(xué)習(xí)。這種方法旨在提高模型處理各種情況的能力。

經(jīng)過思考鏈

該技術(shù)涉及培訓(xùn)模型遵循結(jié)構(gòu)化的推理過程，類似于人類思維。通過鼓勵(lì)模型明確地生成中間的推理步驟，研究人員希望提高模型處理復(fù)雜的推理任務(wù)并提供更準(zhǔn)確，邏輯上一致的響應(yīng)的能力。

使用外部驗(yàn)證器

為了解決產(chǎn)生錯(cuò)誤或誤導(dǎo)性信息的模型問題，一些研究人員提出了整合外部驗(yàn)證機(jī)制。這些驗(yàn)證者可以針對(duì)受信任的來源進(jìn)行跨檢查模型的輸出，或者在向用戶提交信息之前，使用其他算法來驗(yàn)證信息的準(zhǔn)確性。這有助于確保生成的內(nèi)容可靠并且實(shí)際上是正確的。

使用求解器

另一種方法涉及合并旨在處理特定類型推理任務(wù)的專業(yè)求解器。這些求解器可用于執(zhí)行計(jì)算，求解方程或過程邏輯語句，以補(bǔ)充語言模型的功能。通過將這些任務(wù)委派給求解器，總體系統(tǒng)可以實(shí)現(xiàn)更準(zhǔn)確和可靠的結(jié)果。

結(jié)論

盡管在文本生成和理解等領(lǐng)域取得了令人印象深刻的進(jìn)步，但當(dāng)前的語言模型由于無法完全掌握含義，保持一致的環(huán)境并僅依靠大型但潛在有缺陷的培訓(xùn)數(shù)據(jù)提取的模式而在復(fù)雜的多層推理任務(wù)中掙扎，因此它們的多層推理任務(wù)掙扎。為了解決這些限制，未來的模型可能需要更復(fù)雜的體系結(jié)構(gòu)，以及正在進(jìn)行的常識(shí)推理研究。