人類最前沿的AI研究 走錯了方向？

來源：量子號

近年來，人工智能技術取得了驚人的進步，并在多個領域展現出強大的潛力。然而，人工智能研究的真正目標——通用人工智能（即具備類人認知能力的智能系統），仍然是一個充滿爭議的話題。隨著公眾對人工智能發展抱有極高的期待，研究人員也對當前的研究方向提出了質疑。

那么，我們是否正在朝著正確的方向邁進？人工智能研究的現狀究竟如何？據 Gizmodo 的報道，最近，一個由數百名人工智能研究人員組成的小組的研究結果表明，目前人類在追求通用人工智能的路上，走錯了方向，到底怎么回事？

一個由數百名人工智能研究人員組成的小組的研究結果表明，目前該領域正在以錯誤的方式追求通用人工智能。

這一見解是在由美國人工智能促進協會組織的 2025 年“人工智能研究未來”總統小組會議上披露的。這份冗長的報告由 24 名人工智能研究人員共同編寫，他們的專業知識涵蓋人工智能基礎設施現狀和人工智能的社會影響等多個方面。

該報告的每個部分都包含一個主要結論，并設有一個“社區意見”部分，調查受訪者對該部分的看法。

人工智能認知與現實的差距

“人工智能認知與現實”部分由麻省理工學院計算機科學家羅德尼·布魯克斯主持，引用了 Gartner 技術炒作周期（Hype Cycle）模型，該模型描述了技術炒作的五個階段。報告指出，在 2024 年 11 月，Gartner 估計“生成式人工智能的炒作剛剛達到頂峰，正處于下降階段?！?/p>

在“社區意見”調查中，79% 的受訪者認為，公眾對人工智能能力的認知與人工智能研究和發展的現實不符。而 90% 的人表示，這種不匹配阻礙了人工智能研究——其中 74% 的人認為“人工智能研究的方向是由炒作驅動的”。

“我之所以引用 Gartner 的炒作周期模型，是因為該模型多年來被廣泛使用，且適用于多個領域的炒作和隨之而來的失望，”布魯克斯在一封電子郵件中說，“因此，這一模型的存在及其在多個領域的準確性，告訴我們應謹慎對待當前人工智能發展中的炒作。”

“我認為，公眾對人工智能的大量討論都過于相信炒作的準確性，”他補充道。

現有方法不足以實現通用人工智能

通用人工智能（AGI）指的是具有人類級別智能的機器——即能夠像人類一樣理解信息并從中學習的假想智能。通用人工智能是該領域的“圣杯”，對自動化和效率的影響遍及多個行業和學科。例如，任何你不想花時間做的瑣碎任務，從規劃旅行到報稅，通用人工智能都可以幫助減輕負擔。此外，通用人工智能還可能促進交通、教育和技術等領域的進步。

然而，調查結果顯示，絕大多數研究人員認為當前的方法不足以實現通用人工智能。475 名受訪者中，76% 認為僅靠擴大現有人工智能方法的規模，并不足以產生通用人工智能。

“總體而言，這些回應表明了一種謹慎而又向前邁進的方法：人工智能研究人員優先考慮安全、道德治理、利益共享和漸進式創新，主張協作和負責任的發展，而不是競相發展通用人工智能，”報告寫道。

盡管炒作扭曲了人工智能研究的真實狀態，而且當前的方法并沒有讓研究人員走上通用人工智能的最佳道路，但這項技術已經取得了突飛猛進的發展。

人工智能研究的進展與挑戰

“如果是在五年前，我們幾乎不會有這樣的討論——當時人工智能主要用于容錯率較高的應用（如產品推薦），或知識領域受到嚴格限制的應用（例如對科學圖像進行分類），”弗吉尼亞大學計算機科學家、該報告“事實性和可信度”部分的負責人亨利·考茨在電子郵件中解釋道?！叭欢?，在歷史尺度上相對突然的時間內，通用人工智能開始發揮作用，并通過 ChatGPT 這樣的聊天機器人進入公眾視野。”

但是，人工智能的事實性問題仍“遠未解決”。報告指出，在 2024 年的一項基準測試中，即便是最先進的大型語言模型，其正確回答率也僅約為 50%。不過，新的訓練方法可以提高這些模型的穩健性，而組織人工智能的新方法也有助于進一步提高它們的性能。

“我相信，提高人工智能可信度的下一階段，將是用協作型人工智能代理團隊取代單一人工智能代理，讓它們不斷互相事實核查，以確保彼此的誠實，”考茨補充道。“大多數公眾以及科學界（包括人工智能研究人員群體）都低估了當今最先進人工智能系統的質量——人們對人工智能的認知往往比技術發展落后一兩年?！?/p>

人工智能未來的方向

不同的人工智能應用場景處于不同的炒作階段，但在人工智能領域的喧囂聲中——無論是來自私營企業、政府官員，甚至是我們自己的家庭成員——這份報告提供了一種清醒的提醒：人工智能研究人員正在對其領域進行深思熟慮的審視。從人工智能系統的構建方式到它們的應用方式，都還有改進和創新的空間。

既然我們不會回到沒有人工智能的時代，那么唯一的方向就是向前。