2022년 11월 OpenAI의 전 이사회 위원인 Helen Toner에 따르면, 이사회는 ChatGPT 출시에 대해 사전에 통보받지 않았다. CEO Sam Altman, 대통령 Greg Brockman, 선임 엔지니어 Ilya Sutskever를 포함한 6명의 이사회 위원들은 회사 경영진으로부터 통보받지 않고 트위터에서 ChatGPT 출시 소식을 접했다.

이러한 사실은 OpenAI 경영진 내부의 투명성과 의사소통에 대한 의문을 제기한다. ChatGPT의 기반 기술인 GPT-3는 이미 Jasper 등 다양한 기업에서 사용되고 있었지만, 이사회 절반이 출시 시기를 모르고 있었다는 점은 조정과 정보 공유의 부족을 시사한다.

ChatGPT가 연구 미리보기로 의도되었고 OpenAI가 대중의 엄청난 반응을 예상하지 못했다는 주장이 일부 맥락을 제공한다. 그러나 회사 운영을 감독해야 할 이사회 위원들이 이 과정에서 제외되었다는 점은 의사결정 프로세스와 OpenAI 내 안전성 및 보안의 우선순위에 대한 우려를 낳는다.

이번 사건과 함께 정렬 책임자 Yan Lecun의 퇴사, 비방 금지 계약 공개 등 최근 사건들은 OpenAI의 관행과 우선순위에 대한 불안감과 불신을 증폭시키고 있다.

OpenAI 관련 최근 사건들은 회사의 개방성과 투명성에 대한 우려를 크게 야기했다. 이 문제를 강조하는 주요 사항은 다음과 같다:

1. 이사회 인지 부족: 전 이사회 위원 Helen Toner에 따르면 이사회는 ChatGPT 출시에 대해 사전에 통보받지 않았다. 이는 경영진과 감독 기구 간 우려스러운 의사소통 및 투명성 부족을 시사한다.

2. 주식 환수 조항: 유출된 문서에 따르면 OpenAI는 퇴사 직원들에게 비방 금지 계약 체결을 요구하는 강력한 주식 환수 조항을 두고 있었다. 이는 비윤리적이고 불법일 수 있다는 비판을 받고 있다.

3. 정렬 팀 해체: OpenAI의 전 정렬 책임자 Yan의 퇴사와 정렬 팀 해체는 회사의 안전성 및 책임감 있는 AI 개발에 대한 의지를 의문시하게 한다.

4. 안전 위원회의 이해 상충: CEO Sam Altman이 포함된 새로운 안전 및 보안 위원회 구성은 이해 상충 문제로 지적되고 있다. 의사 결정권자가 평가 대상 기술로부터 이익을 얻을 수 있기 때문이다.

5. 데이터 출처 모호성: OpenAI는 Sora와 GPT-4 등 모델 학습에 사용된 데이터 출처에 대해 모호한 태도를 보이고 있다. 이는 개인정보 및 윤리적 문제를 야기할 수 있다.

6. 스칼렛 요한슨 사건: GPT-4 데모에서 스칼렛 요한슨의 목소리와 유사한 음성 사용 논란은 OpenAI의 투명성과 책임감 있는 관행이 필요함을 보여준다.

OpenAI의 정렬 책임자 Yan이 회사의 우선순위에 대한 의견 차이로 사임한 후, OpenAI는 정렬 팀을 해체했다. 이는 회사의 AI 시스템 안전성 및 책임감 있는 개발에 대한 의지에 대한 우려를 더욱 증폭시켰다.

이에 OpenAI는 Brett Taylor, Adam D'Angelo, Nicole Seigman 이사와 CEO Sam Altman으로 구성된 새로운 안전 및 보안 위원회를 구성했다. 이 위원회는 OpenAI의 모든 프로젝트와 운영에 대한 핵심 안전 및 보안 결정에 대한 권고사항을 이사회에 제시하는 역할을 한다.

그러나 이 위원회 구성에는 문제가 있다. CEO Sam Altman이 위원회에 포함되어 있는데, 그는 회사의 재무 결정과 제품 출시에도 책임을 지고 있다. 이는 기술 개발과 안전성 간 이해 상충 문제를 야기할 수 있다.

정렬 팀 해체와 Altman이 포함된 새로운 안전 및 보안 위원회 구성은 OpenAI의 안전성과 투명성에 대한 우려를 더욱 증폭시켰다. 이러한 중요 문제에 대한 독립적이고 외부적인 감독 부재는 첨단 AI 시스템 개발의 내재적 위험을 관리할 수 있는지에 대한 의문을 낳고 있다.

OpenAI의 데이터 관행에도 의문이 제기되고 있다. 보고에 따르면 OpenAI는 GPT-4 등 언어 모델 학습을 위해 상당량의 YouTube 데이터를 사용한 것으로 나타났다. CTO Mira Murati는 Sora 모델 학습에 사용된 데이터에 대해 명확한 설명을 제공하지 못했다. 이는 투명성 부족에 대한 우려를 낳고 있다.

또한 OpenAI는 배우 스칼렛 요한슨과의 법적 문제에 휘말렸다. 요한슨은 OpenAI가 그녀의 목소리를 허락 없이 GPT-4의 Sky 음성 모델에 사용했다고 주장했다. OpenAI는 해당 음성이 요한슨의 것이 아니라고 주장했지만, CEO Sam Altman의 트윗이 영화 '그녀'를 언급한 것으로 보아 이를 뒷받침하지 못했다.

이러한 사건들과 더불어 Yan 전 직원이 제기한 회사의 '화려한 제품' 우선주의와 안전성 및 정렬 문제에 대한 우려는 OpenAI의 관행과 의사결정 과정에 대한 대중의 신뢰를 더욱 약화시키고 있다. Altman 등 내부 인사가 주도하는 새로운 안전 및 보안 위원회 구성 또한 이해 상충 문제로 비판받고 있다.

종합적으로 이러한 사태는 OpenAI의 투명성, 데이터 사용, 책임감 있는 AI 개발에 대한 의지 등에 대한 중대한 의문을 제기하고 있으며, AI 커뮤니티의 지속적인 논의와 검토의 대상이 될 것으로 보인다.

OpenAI 관련 최근 사건들은 회사의 투명성, 안전 관행, 리더십에 대한 우려를 크게 야기했다. ChatGPT 출시에 대한 이사회 인지 부족, 전 직원과의 비방 금지 계약, 새로운 안전 및 보안 위원회의 잠재적 이해 상충 등의 사실이 드러나면서 불안감이 증폭되고 있다.

OpenAI가 인상적인 기술적 진보를 이루어냈음에도 불구하고, 증거들은 제품 개발을 책임감 있는 거버넌스와 안전 조치보다 우선시하는 우려스러운 패턴을 보여준다. 정렬 책임자 Yan의 퇴사는 조직 내부의 긴장감과 상충되는 우선순위를 더욱 부각시킨다.

AI 환경이 급속도로 발전하는 가운데, OpenAI와 같은 기업이 투명성, 윤리적 관행, 기술 안전성에 대한 강력한 의지를 보여주는 것이 중요하다. 대중은 이러한 강력한 AI 시스템의 데이터, 프로세스, 의사결정에 대한 명확하고 솔직한 이해를 요구한다.

앞으로 OpenAI는 이러한 우려사항을 정면으로 해결하고, 강력한 외부 감독을 도입하며, 책임감 있는 혁신적 AI 기술 개발에 대한 진정성 있는 의지를 보여줘야 할 것이다. 그래야만 대중의 신뢰를 완전히 회복할 수 있을 것이다.