도시의 화두는 100억 컴퓨팅 클러스터에서 1000억 컴퓨팅 클러스터, 심지어 1조 달러 클러스터로 옮겨졌습니다. 매 6개월마다 이사회 계획에 또 다른 0이 추가됩니다. AGI 경쟁이 시작되었습니다. 우리는 생각하고 추론할 수 있는 기계를 만들고 있으며, 2025-2026년까지 이러한 기계가 대학 졸업생을 능가할 것입니다. 10년 내에 당신이나 저보다 더 똑똑해질 것이며, 우리는 진정한 의미의 초지능을 갖게 될 것입니다.

이 과정에서 반세기 만에 볼 수 없었던 국가 안보 세력이 풀려날 것입니다. 머지않아 세계가 깨어날 것이지만, 지금은 샌프란시스코와 AI 연구소에 있는 수백 명만이 상황을 인식하고 있습니다. 어떤 특이한 힘이나 운명으로 인해 나는 그들 사이에 있게 되었고, 이것이 이 문서가 중요한 이유입니다.

AGI 예측 - 2027년까지 AGI가 가능할 것이라는 주장은 매우 그럴듯합니다. GPT-2에서 GPT-4까지 4년 만에 우리를 유치원생에서 똑똑한 고등학생 수준으로 끌어올렸습니다. 컴퓨팅 능력, 알고리즘 효율성, 그리고 '족쇄 풀기'의 추세선을 추적하면 2027년까지 또 다른 유치원생에서 고등학생 수준의 질적 도약을 기대할 수 있습니다.

2027년까지 모델이 AI 연구원이나 소프트웨어 엔지니어의 업무를 수행할 수 있을 것이라고 주장합니다. 이는 SF 소설을 믿는 것이 아니라 그래프의 직선을 믿는 것입니다.

현재 모델의 한계는 명백한 방식으로 여전히 '족쇄'가 채워져 있고 인위적으로 제한되어 있다는 것입니다. 이러한 제약이 제거되면 모델 뒤에 있는 원시 지능이 unleashed되어 급속한 진보가 이루어질 것입니다. 우리는 이미 기준을 초과하고 있으며, GPT-4는 대부분의 표준 고등학교 및 대학 적성 시험을 통과했습니다.

딥러닝의 마법은 추세선이 놀라울 정도로 일관되어 왔다는 것입니다. 이러한 모델 학습의 수량화를 통해 역량 향상을 외삽할 수 있습니다. 알고리즘 효율성과 '족쇄 풀기' 이득이 많은 진보를 이끌어, 2027년까지 GPT-4 수준의 모델을 단 1분 만에 학습할 수 있게 될 것입니다.

그러나 알고리즘 비밀과 모델 가중치를 확보하는 것이 중요합니다. 그렇지 않으면 향후 12-24개월 내에 핵심 AGI 돌파구가 적에게 유출될 수 있습니다. 인간보다 훨씬 더 똑똑한 AI 시스템을 안정적으로 제어하는 것은 해결되지 않은 기술적 문제이며, 실패할 경우 재앙적일 수 있습니다. 초지능으로의 전환은 빠를 것이며, 정렬을 제대로 하기 위한 극심한 압박이 있을 것입니다.