MIT新研究 生成式AI並非推理高手更像是記憶大師

如今生成式 AI 的迅猛發展和廣泛應用引發瞭諸多擔憂，從隱私安全到潛在的失業危機。

雖然 AI 聊天機器人如 ChatGPT 和微軟 Copilot 在短短時間內取得瞭驚人進步，能夠寫代碼、糾錯甚至挑戰人類創意，但它們真的像表面看起來那麼聰明嗎？

麻省理工學院計算機科學與人工智能實驗室（CSAIL）的一項最新研究指出，這些強大的大型語言模型（LLM）似乎更依賴記憶而不是真正的推理能力。它們在熟悉的任務上表現出色，但在面對新問題時卻顯得力不從心。

研究人員通過對比 AI 在不同任務上的表現得出這一結論。例如，GPT-4 在十進制算術方面表現優異，但在其他進制下卻難以應對，類似的現象也出現在棋類遊戲和空間推理等領域。

研究人員認為，AI 更像是記憶力超群的“鸚鵡”，而非具備真正推理能力的“智者”。

研究結果表明，AI 在訓練有素的領域內可以達到甚至超越人類水平，但這更多的是一種“記憶力”的體現。一旦面對全新的挑戰，需要真正的推理能力時，AI 的優勢便不再明顯。

這一發現對 AI 的未來發展提出瞭新的挑戰。雖然 AI 在某些領域已經展現出超越人類的能力，例如自動化大量重復性工作，但在創意、解決復雜問題等方面仍有巨大的提升空間。

例如，一些媒體機構嘗試用 AI 取代記者，結果卻發現 AI 生成的新聞錯誤百出，反而增加瞭編輯的工作量。

遊戲行業也面臨類似的問題，AI 工具雖然能輔助開發過程，但核心創意和遊戲體驗的打造仍然離不開人類的智慧和創造力。