이 인터뷰에서 OpenAI의 전 CEO인 Sam Altman은 회사의 언어 모델 데이터 효율성 향상 노력에 대한 통찰을 제공했습니다. Altman은 OpenAI가 고품질 데이터를 확보하는 데 있어 겪는 한계를 극복할 수 있는 새로운 아키텍처 또는 방법의 개발을 암시했습니다.

Altman은 그들이 실험을 위해 많은 양의 합성 데이터를 생성했지만, 목표는 "더 적은 데이터에서 더 많이 배우는 방법"을 찾는 것이라고 인정했습니다. 그는 "모델을 훈련시키는 가장 좋은 방법"이 단순히 대량의 합성 데이터를 생성하는 것이 아니라 더 작은 데이터 세트에서 더 효과적으로 학습할 수 있는 기술을 개발하는 것일 수 있다고 제안했습니다.

이는 이전 기사에서 Altman의 "돌파구"가 OpenAI가 새로운 모델을 훈련시키기 위한 충분한 고품질 데이터를 확보하는 데 있어 겪는 한계를 극복할 수 있게 했다는 정보와 일치합니다. Altman의 언급은 회사가 이 분야에서 진전을 이루었으며, 새로운 아키텍처 또는 데이터 효율성 기술 개발을 통해 이루어졌을 수 있음을 시사합니다.

Sam Altman은 첨단 AI 시스템의 등장, 잠재적으로 AGI(인공 일반 지능) 수준에 도달할 가능성이 있다는 것을 인정하면서, 이에 따라 장기적으로 사회 계약에 변화가 필요할 것이라고 말했습니다. 그는 사람들이 노동력을 대가로 소득을 얻는 현재의 노동 기반 경제 모델이 이러한 강력한 기술이 더 널리 보급됨에 따라 재구성되어야 할 것으로 예상합니다.

Altman은 기술 진보를 통해 세계가 더 부유해짐에 따라 이미 사회 안전망과 사회 구조 방식에 변화가 있었다고 지적했습니다. 그는 AGI가 현실이 되면 이와 유사한 논의와 재구성이 일어날 것으로 예상하며, 이는 이 기술의 선두 주자인 대형 언어 모델 기업들이 주도할 것이라고 말했습니다.

Altman이 언급한 한 가능한 개념은 "보편적 기본 컴퓨팅"이라는 아이디어로, 이는 사람들이 AGI 수준 시스템에서 일정량의 컴퓨팅 자원을 받게 되는 것을 의미합니다. 이러한 변화는 이러한 컴퓨팅 자원의 가치가 전통적인 통화보다 더 중요해질 수 있기 때문에 경제와 사회의 근본적인 기능 방식을 바꿀 수 있습니다.

Altman은 이러한 전환이 어떻게 일어날지 구상하기 어렵다고 인정하는데, 이는 이전에 경험하지 못한 사회적 변화를 나타내기 때문입니다. 그는 AI 시스템 자체가 이러한 새로운 사회 구조를 설계하고 조직하는 데 도움을 줄 수 있다고 제안했습니다.

OpenAI의 CEO인 Sam Altman은 최근 인터뷰에서 차세대 언어 모델에 대한 회사의 계획에 대한 통찰을 제공했습니다. 다음은 주요 요점입니다:

1. 데이터 효율성: Altman은 언어 모델을 더 데이터 효율적으로 만드는 돌파구에 대해 암시했습니다. 이를 통해 대량의 합성 데이터에 의존하는 대신 고품질 데이터의 소량으로도 학습할 수 있게 되어 모델 성능이 크게 향상될 수 있습니다.

2. 아키텍처 혁신: Altman은 세부 사항을 밝히기를 꺼려했지만, OpenAI가 모델의 데이터 효율성을 더욱 높일 수 있는 새로운 아키텍처 또는 방법을 개발하고 있다고 시사했습니다.

3. 정성적 개선: Altman은 차세대 모델이 이전에는 불가능한 것으로 여겨졌던 분야에서 놀라운 발전을 보일 것으로 예상합니다. 그는 표준 벤치마크에만 의존하지 말 것을 경고하며, 실제 진보는 측정하기 어려운 더 정성적인 측면에 있을 수 있다고 말했습니다.

4. 사회 및 경제적 영향: Altman은 언어 모델 기능이 늘어남에 따라 전통적인 노동 기반 경제 모델이 재구성되어야 할 수 있다는 점을 인정했습니다. 그는 "보편적 기본 컴퓨팅"과 같은 아이디어를 탐구하여 이러한 혼란에 대처할 것을 제안했습니다.

5. 책임감 있는 개발: Altman은 더 강력한 시스템을 출시하기 전에 모델의 내부 작동 방식과 안전성 고려 사항을 이해하는 데 중점을 두는 책임감 있는 연구 개발의 중요성을 강조했습니다.

전반적으로 Altman의 언급은 OpenAI가 언어 모델 기능을 크게 발전시키는 데 상당한 진전을 이루고 있지만, 동시에 이러한 발전의 더 넓은 사회적 영향에 대해서도 고민하고 있음을 시사합니다. 차세대 모델은 현재 가능한 것을 넘어서는 성과를 보일 것으로 예상되지만, 책임감 있는 개발과 장기적인 경제 및 사회 구조에 대한 영향에 대한 고려가 동반될 것입니다.

Sam Altman은 자신의 OpenAI 퇴사와 관련하여 Helen Toneis의 기억과 상당히 다르다는 점을 존중하면서도 단호하게 반대합니다. Toneis는 좋은 AI 결과를 진심으로 염려하는 사람이지만, Altman은 그녀에게 좋은 일이 있기를 바라며 줄줄이 명예 방어에 나서고 싶지 않습니다.

OpenAI가 ChatGPT를 출시했을 때, 이는 "저키 연구 미리보기"로 불렸으며, 그들은 이에 대한 반응 수준을 예상하지 못했습니다. Altman은 이사회와 GPT-3.5 출시 계획을 논의했으며, GPT-4 훈련도 오래전에 완료했다고 밝혔습니다.

전반적으로 Altman은 Toneis의 기억과 다르다고 생각하며, OpenAI 퇴사와 관련된 상당한 논란을 고려할 때 자신의 입장을 제공하는 것이 중요하다고 믿습니다.

Sam Altman은 스칼렛 요한슨 사건에 대해 언급했습니다. 요한슨은 OpenAI가 그녀의 목소리를 무단으로 사용했다고 주장했습니다. Altman은 사용된 목소리가 요한슨의 것이 아니며, OpenAI가 여러 배우들을 오디션한 후 5명의 목소리를 선택했고 요한슨에게도 6번째 목소리 제공을 요청했다고 설명했습니다. 그러나 Altman은 사용된 목소리와 요한슨의 목소리 유사성으로 인한 혼란을 인정했습니다.

Altman은 또한 OpenAI의 해석 가능성 연구에 대해 논의했습니다. 이는 AI 모델의 의사 결정 과정을 이해하는 것을 목표로 합니다. 그는 해석 가능성 문제를 완전히 해결하지는 못했지만, 진전을 이루었으며 모델의 안전성을 보장하는 데 중요한 부분이라고 말했습니다. Altman은 인간 뇌의 내부 작동을 완전히 이해하지 못하더라도 AI 시스템의 행동을 이해하고 검증할 수 있는 방법을 개발할 수 있다고 강조했습니다. 그는 이러한 모델 내부를 더 잘 이해할수록 안전성 주장을 더 잘 만들고 검증할 수 있다고 제안했습니다.