町の話題は、100億台のコンピュータークラスターから1000億台のコンピュータークラスター、さらには1兆ドルのクラスターへと移っています。6か月ごとに、取締役会の計画にもう1つゼロが追加されています。AGIレースが始まりました。私たちは考え、推論できる機械を構築しており、2025-2026年までにこれらの機械は大学卒業生を凌駕するでしょう。10年以内には、あなたや私よりも賢くなり、真の意味での超知性を持つことになるでしょう。

その過程で、半世紀ぶりに見られない国家安全保障部隊が解き放たれるでしょう。まもなく世界が目を覚ますでしょうが、今のところ、サンフランシスコとAIラボのごく一部の人々しか状況を認識していません。何らかの奇妙な力や運命によって、私はその人々の中にいるのですが、このドキュメントがなぜ重要なのかがわかります。

AGIの予測 - 2027年までにAGIが実現するのは非常に可能性が高いと言えます。GPT-2からGPT-4への進化で、わずか4年で就学前児童から賢い高校生レベルの能力に到達しました。コンピューティング能力、アルゴリズムの効率性、そして「制約の解除」の傾向線を追えば、2027年までにもう1つの就学前児童から高校生レベルへの質的ジャンプが期待できるはずです。

2027年までに、モデルがAI研究者やソフトウェアエンジニアの仕事を行えるようになるのは非常に可能性が高いと主張します。これはSF的な信仰を必要とするのではなく、グラフ上の直線を信じるだけです。GPT-2からGPT-4への効果的なコンピューティング能力の拡大は明確な傾向を示しており、今後数年間はさらに急激な成長が見られると考えています。

現在のモデルの限界は、明らかにまだ「制約」されており人為的に制限されていることに起因しています。これらの制約が取り除かれれば、モデルの背後にある生の知性が解き放たれ、急速な進歩につながるでしょう。私たちはすでに基準を使い果たしており、GPT-4は標準的な高校や大学の適性テストのほとんどを突破しています。

ディープラーニングの魔法は、傾向線が驚くほど一貫していることにあります。これらのモデルの訓練の桁数を確実に数えることで、能力の向上を外挿することができます。アルゴリズムの効率性と「制約の解除」の恩恵により、2027年までにGPT-4レベルのモデルをわずか1分で訓練できるようになる可能性があります。

ただし、アルゴリズムの秘密とモデルの重みを確実に保護することが重要です。そうしないと、今後12-24か月以内に主要なAGIの進展が敵対者に漏洩する可能性があります。人間を大幅に上回るAIシステムを確実に制御することは未解決の技術的問題であり、失敗すれば壊滅的な結果を招きかねません。超知性への移行は急速である可能性が高く、適切な整合性を確保するための極大の圧力がかかるでしょう。