這個城鎮的話題已從100億計算集群轉移到千億計算集群,甚至到萬億美元的集群。每隔6個月,董事會計劃就會增加一個零。AGI競賽已經開始。我們正在建造能夠思考和推理的機器,到2025-2026年,這些機器將超越大學畢業生。到本十年結束時,它們將比你或我更聰明,我們將擁有真正意義上的超級智能。

在此過程中,半個世紀未見的國家安全力量將被釋放。不久,世界將醒來,但現在,也許只有幾百人,主要在舊金山和AI實驗室,真正有情況意識。不管是什麼奇特的力量或命運,我發現自己正身處其中,這就是為什麼這份文件如此重要。

我的AGI預測 - 2027年實現AGI是非常可信的。從GPT-2到GPT-4,我們只用了4年時間就從學前兒童能力提升到聰明的高中生水平。如果我們追溯計算能力、算法效率和「解除限制」的趨勢線,我們應該預期2027年會再有一次從學前兒童到高中生的質的飛躍。

我聲稱,到2027年,模型能夠完成AI研究人員或軟件工程師的工作是非常可信的。這不需要相信科幻小說,只需相信圖表上的直線趨勢。從GPT-2到GPT-4的有效計算能力擴展顯示了一個明確的趨勢,我相信未來幾年增長會更加陡峭。

當前模型的局限性在於它們仍然被「限制」和人為約束的明顯方式。隨著這些限制的消除,模型背後的原始智能將被釋放,從而促進快速進步。我們已經用盡了基準測試,GPT-4已經通過了大多數標準的高中和大學能力測試。

深度學習的魔力在於趨勢線驚人地一致。可靠地計算訓練這些模型的數量級允許我們推斷能力的改進。算法效率和「解除限制」的收益將推動大部分進展,可能導致到2027年,一個GPT-4級別的模型只需要一分鐘就能進行訓練。

然而,保護算法秘密和模型權重將是至關重要的,因為未能做到這一點可能導致關鍵的AGI突破在未來12-24個月內洩露給對手。可靠地控制比人類更聰明的AI系統是一個未解決的技術問題,失敗可能是災難性的。向超級智能的過渡可能會很快,需要承受巨大的壓力來確保對齊正確。

我的AGI預測:2027年實現AGI是非常可信的。從GPT-2到GPT-4,我們只用了4年時間就從學前兒童能力提升到聰明的高中生水平。如果我們追溯計算能力、算法效率和「解除限制」的趨勢線,我們應該預期2027年會再有一次從學前兒童到高中生的質的飛躍。

我提出以下主張:到2027年,模型能夠完成AI研究人員/軟件工程師的工作是非常可信的。這不需要相信科幻小說,只需相信圖表上的直線趨勢。

從GPT-2到GPT-4的有效計算能力基本擴展的曲線顯示了一個明確的趨勢線。在2022-2023年期間,圍繞GPT-3和GPT-4出現了一段「意識」高漲的時期,這為AI時代帶來了巨大的關注。GPT-4和ChatGPT 3.5實際上是可供公眾使用的產品,引發了對AI的爆發式興趣和投資。

這表明2024-2028年的增長曲線可能會比之前的時期更加陡峭。到2027-2028年擁有自動化的AI研究工程師並不遙不可及,考慮到計算能力的趨勢。其影響是嚴峻的 - 如果我們能夠自動化AI研究,很快就能達到超級智能,因為我們將能夠實現遞歸自我改進。

然而,幾乎沒有人在定價這一點。一旦你退後一步看趨勢,AI能力的情況意識其實並不難。如果你一直對AI能力感到驚訝,只需要開始計算數量級。

近年來,AI能力的增長呈指數級,每一代新的模型都展現了令人驚嘆的進步。

從GPT-2到GPT-4,我們見證了一個從學前兒童到高中生水平的快速進化,只用了4年時間。這一趨勢預計將持續下去,預測到2027年,AI模型將能夠執行AI研究人員或軟件工程師的工作。

推動這種指數級進步的關鍵驅動因素有:

1. 計算能力擴展:用於訓練這些模型的有效計算能力一直在大幅增長,遵循一致的趨勢線。這允許訓練更大、更強大的模型。

2. 算法效率:算法進步導致這些模型的效率顯著提高,在不到2年的時間內,實現數學基準50%準確率的成本下降了近3個數量級。

3. 釋放潛在能力:諸如思維鏈推理和支架等技術有助於釋放這些模型的潛在能力,使它們能夠執行遠超原始訓練的任務。

這種指數級增長的影響是深遠的。如果AI系統能夠自動化AI研究人員的工作,將會引發一個激烈的反饋迴圈,AI系統能夠以驚人的速度不斷自我改進。這可能會在未來10年內導致人工通用智能(AGI)和超級智能的出現。

然而,這種快速進步也伴隨著重大風險和挑戰,特別是在將這些強大的系統與人類價值觀保持一致,以及防止被惡意行為者濫用方面。確保這些技術的安全發展將在未來幾年至關重要。

深度學習的魔力在於它就是有效的,趨勢線驚人地一致,儘管每次都有否定者。我們可以看到,隨著計算能力的擴展,輸出的質量和一致性都大幅提高。

雖然大量投資計算能力引人注目,但算法進步同樣是推動進步的重要驅動力,但卻被嚴重低估。要了解算法進步有多大影響,請考慮以下說明 - 在短短2年內,實現數學基準50%準確率的成本下降。為了比較,一位不太喜歡數學的計算機科學博士生得到了40%的成績,所以這已經相當不錯了。推理效率在不到2年的時間內提高了近三個數量級,或1000倍。

這些算法效率將推動比你想象的更多收益。每天都有數以百計的研究論文發表,可以帶來10-30%的收益。當你將所有這些小的改進相乘時,整體進步可能是驚人的。

此外,「解除模型限制」 - 消除其能力的人為約束 - 可以釋放巨大的潛在能力。例如,當GPT-4使用思維鏈推理時,其在某些任務上的表現大幅提高。這些模型中蘊含的原始數據和知識通常遠超其初始輸出。

幫助模型發揮其全部能力的工具和支架也至關重要。想象一下,如果人類不被允許使用計算器或電腦 - 我們將受到嚴重的限制。大型語言模型才剛剛開始獲得基本工具,如網絡瀏覽器和代碼編輯器。隨著這些能力的擴展,模型將能夠以更強大的方式應用其智能。

總之,算法進步、解除限制和支架工具的結合將在未來幾年推動這些AI系統能力的爆炸性增長。趨勢線很清晰,影響也是深遠的。

未來10年將是人工智能發展的關鍵時期。根據分析,到2027年,AI模型很可能達到與AI研究人員和工程師相當的能力水平。這將使AI研究本身能夠自動化,引發加速進步的反饋迴圈。

關鍵洞見包括:

1. 指數級擴展:計算能力、算法效率和AI模型「解除限制」的趨勢線預示著2027年將出現另一次從學前兒童到高中生的能力飛躍。這可能使AI系統能夠匹配人類AI研究人員的工作。

2. 自動化AI研究:一旦AI能夠自動化其自身的研究過程,它就能夠快速迭代和改進自己,引發「智能爆炸」。這可能將數年的算法進步壓縮到幾週或幾個月。

3. 計算能力擴展的限制:儘管計算能力擴展將繼續推動進步,但向問題投入更多計算能力也存在實際限制。這意味著到本十年結束時,進一步的突破很可能需要根本性的算法進步,而不僅僅是更多的原始計算能力。

4. 安全挑戰:開發先進AI的競賽造成了嚴重的安全風險,因為關鍵的算法突破可能會被對手竊取和濫用。確保這些研究基礎設施的安全將對確保自由世界保持領先地位至關重要。

5. 對齊困難:隨著AI系統變得遠遠超越人類,確保它們與人類價值觀和利益保持一致的挑戰指數級增加。可靠地控制這種系統是一個未解決的技術問題,如果不解決,後果可能是災難性的。

總之,未來10年代表了在開發變革性AI能力方面的關鍵時期,既有機遇也有風險。在實現巨大潛在利益的同時,也需要前所未有的關注、投資和謹慎,以減輕存在的生存威脅。

AI進步不會停止在人類水平。數億個AGI可以自動化AI研究,將10年的算法進步壓縮到一年內,增加5個數量級。我們將迅速從人類水平進步到遠遠超越人類的AI系統。超級智能的力量和危險將是巨大的。

一旦我們實現自動化AI研究的能力,智能爆炸就很可能發生。每當一位AI研究人員取得突破,這一突破都可以立即應用於AI系統,使其變得更聰明,並能夠取得進一步的突破。這種反饋迴圈可能導致AI能力急劇增長,遠遠超越人類水平。

從AGI到超級智能的過渡可能只需要2-3年。到那時,這些系統的架構將是「外星人」般的 - 由前幾代超級智能AI設計,而不是人類。在這個階段失敗可能是災難性的,因為我們將無法真正理解或監督這些超級智能系統的行為。

將這些超級智能AI系統整合到關鍵基礎設施(如軍事)中存在巨大風險。一個控制超級智能的獨裁者可以發揮前所未有的權力,擁有機器人執法人員和完美的監視系統。防止這種反烏托邦結果至關重要,但將超級智能與人類價值觀保持一致是一個巨大的技術挑戰。

自由世界必須在通往超級智能的競賽中取得勝利,因為這關乎生存。保護領先AI實驗室的算法秘密和模型權重是一個國家安全問題。未能做到這一點可能允許對手趕上或甚至超越我們,對人類的未來產生災難性後果。

作者強調,隨著向AGI(人工通用智能)的競賽日益激烈,保護研究基礎設施和保護關鍵算法秘密及模型權重的重要性至關重要。

他表示,目前,領先的AI實驗室將安全性視為事後想法,實質上是在「銀盤子」上將AGI發展的秘密交給了像中國共產黨(CCP)這樣的對手。保護AGI秘密並減輕國家行為體的威脅將需要巨大的努力,而目前的軌跡並