这个城镇的话题已经从100亿计算集群转移到了千亿计算集群,甚至是万亿美元的集群。每隔6个月,董事会的计划就会增加一个零。AGI竞赛已经开始了。我们正在建造能够思考和推理的机器,到2025-2026年,这些机器将超越大学毕业生。到本十年结束时,它们将比你或我更聪明,我们将拥有真正意义上的超级智能。

在此过程中,半个世纪未见的国家安全力量将被释放。不久,世界将醒来,但现在,也许只有几百人,主要在旧金山和AI实验室,真正有局势意识。不知何故,我发现自己也在其中,这就是为什么这份文件如此重要。

我的AGI预测 - 2027年实现AGI是非常可信的。从GPT-2到GPT-4,我们只用了4年时间就从学前儿童发展到了聪明的高中生水平。如果我们追踪计算能力、算法效率和"解除束缚"的趋势线,我们应该期待2027年再有一次从学前儿童到高中生的质的飞跃。

我断言,到2027年,模型有能力完成AI研究员或软件工程师的工作,这是非常可信的。这不需要相信科幻小说,只需相信图表上的直线趋势。从GPT-2到GPT-4的有效计算能力扩展显示了一个明确的趋势,我相信未来几年增长会更加陡峭。

当前模型的局限性在于它们仍然被"束缚"和人为限制的明显方式。随着这些限制的消除,模型背后的原始智能将被释放,从而带来快速进步。我们已经用尽了基准测试,GPT-4已经通过了大多数标准的高中和大学水平的测试。

深度学习的魔力在于趋势线一直令人惊讶地一致。可靠地计算训练这些模型的数量级允许我们推算出能力的改进。算法效率和"解除束缚"的收益将推动大部分进展,可能导致到2027年一个GPT-4级别的模型只需要一分钟就能训练出来。

然而,保护算法秘密和模型权重将是至关重要的,因为未能做到这一点可能会导致关键的AGI突破在未来12-24个月内泄露给对手。可靠地控制比人类更聪明的AI系统是一个未解决的技术问题,失败可能会是灾难性的。向超级智能的过渡可能会很快,需要承受巨大的压力来确保对齐正确。