2022年11月にChatGPTが立ち上げられた際、OpenAIの元取締役会メンバーであるHelen Tonerによると、取締役会メンバーは事前に通知されていなかったという。CEOのSam Altman、社長のGreg Brockman、主任エンジニアのIlya Sutskeverを含む6名の取締役会メンバーは、同社の経営陣から通知されるのではなく、Twitterで知ったそうだ。

この明らかになった事実は、OpenAIの経営陣内部の透明性と情報共有の欠如を示唆している。ChatGPTの基盤となるGPT-3技術は、Jasperなどの企業で既に使用されていたが、取締役会の半数以上が立ち上げのタイミングを知らされていなかったことは、調整と情報共有の不足を示している。

ChatGPTは研究プレビューとして意図されており、OpenAIは大規模な一般の反応を予期していなかったという主張もあるが、同社の業務を監督する取締役会メンバーが情報から除外されていたことは、意思決定プロセスや安全性、セキュリティの優先順位付けに対する懸念を呼び起こしている。

この出来事は、アラインメント責任者のYan Lecunの退社や、非非難条項の暴露など、最近の出来事とともに、OpenAIの慣行と優先順位をめぐる不安と不信感を高めている。

OpenAIをめぐる最近の出来事は、同社の開放性と透明性に対する重大な懸念を呼び起こしている。これらの問題を強調する主な点は以下の通りである:

1. 取締役会の認識不足: 元取締役会メンバーのHelen Tonerによると、取締役会はChatGPTの立ち上げについて事前に通知されていなかった。これは、経営陣と監督取締役会の間の深刻なコミュニケーションと透明性の欠如を示唆している。

2. 株式クローバック条項: 流出した文書によると、OpenAIは退職従業員に非非難契約への署名を要求する厳しい株式クローバック条項を設けていた。この慣行は、倫理的に問題があり、違法の可能性があると批判されている。

3. アラインメントチームの解散: OpenAIのアラインメント責任者であったYanの退社と、その後のアラインメントチームの解散は、同社の安全性と責任あるAI開発への取り組みに疑問を投げかけている。

4. 安全委員会における利益相反: CEO Sam Altmanを含む新設の安全保障委員会の設置は、評価対象の技術から利益を得る立場にある意思決定者を含むことから、利益相反の可能性があると批判されている。

5. データソースの曖昧さ: OpenAIはSoraやGPT-4の学習に使用したデータソースについて明確にしていない。このような透明性の欠如は、プライバシーや倫理的な問題を引き起こす可能性がある。

6. スカーレット・ヨハンソンの事件: GPT-4デモでスカーレット・ヨハンソンの声に似た音声が使用された問題は、OpenAIの慣行における透明性と説明責任の必要性をさらに強調している。

これらの問題は、急速な技術的進歩を優先し、責任ある透明な開発を軽視しているという懸念のある企業像を描いている。AI分野の進化が続く中、OpenAIのような企業が最高水準の開放性と倫理的な慣行を維持することが重要であり、これらの強力な技術の安全な展開を確保することが不可欠である。

OpenAIのアラインメント責任者であったYanが、同社の優先順位に対する意見の相違を理由に退社した後、OpenAIはアラインメントチームを解散した。これにより、同社のAIシステムの安全性と責任ある開発への取り組みに対する懸念がさらに高まった。

これに対し、OpenAIは新たな安全保障委員会を設置した。この委員会は、ブレット・テイラー、アダム・ダンジェロ、ニコール・サイグマン取締役、CEOのサム・オルトマンによって構成されており、OpenAIのすべてのプロジェクトと業務に関する重要な安全保障上の決定について取締役会に提言を行うことが任務となっている。

しかし、この委員会の構成には疑問が呈されている。CEOのサム・オルトマンが含まれているため、同氏が同社の財務的決定やプロダクトの立ち上げにも責任を負っていることから、利益相反の可能性が指摘されている。

アラインメントチームの解散と、オルトマンが参加する新しい安全保障委員会の設置は、OpenAIの安全性と透明性への取り組みに対する懸念をさらに助長している。これらの重要な問題に対する独立した外部監視の欠如は、先進的なAIシステムの開発に伴う固有の危険性に対処する同社の能力に疑問を投げかけている。

OpenAIのデータ慣行が scrutiny の対象となっている。同社は、GPT-4を含む言語モデルの学習に大量のYouTubeデータを使用していたことが報告されている。CTOのMira Muratiは、Soraモデルの学習に使用したデータの詳細を明確に説明できなかったことから、透明性の欠如が指摘されている。

さらに、同社はスカーレット・ヨハンソン女優との法的問題にも直面した。ヨハンソンは、OpenAIがGPT-4のSkyボイスモデルの作成にその声を無許可で使用したと考えていた。OpenAIは、その音声はヨハンソンのものではないと主張したが、CEOのサム・オルトマンがTwitterで「Her」映画への言及をしたことから、その主張は疑問視されている。

これらの出来事は、Yanが「輝くプロダクト」を優先し、安全性とアラインメントを軽視しているとの指摘とあいまって、OpenAIの慣行と意思決定プロセスに対する公衆の信頼を損なっている。オルトマンや社内メンバーが主導する新しい安全保障委員会の設置も、同委員会の提言が同社の財務的利益に影響を受ける可能性から、批判の的となっている。

総じて、これらの展開は、OpenAIの透明性、データ利用、責任あるAI開発への取り組みに関する重大な疑問を呼び起こしており、AI界隈での議論と scrutiny の対象となり続けるだろう。

OpenAIをめぐる最近の出来事は、同社の透明性、安全慣行、リーダーシップに対する重大な懸念を呼び起こしている。取締役会がChatGPTの立ち上げについて事前に知らされていなかったこと、元従業員との非非難契約、新設の安全保障委員会における利益相反の可能性など、これらの明らかになった事実は、不安感を高めている。

OpenAIが確かに印象的な技術的進歩を遂げてきたものの、高まる証拠は、責任あるガバナンスと安全対策よりも製品開発を優先しているという懸念のある傾向を示唆している。アラインメント責任者のYanの退社は、組織内部の緊張と優先順位の相違をさらに強調している。

AI分野の急速な進化を考えると、OpenAIのような企業が透明性、倫理的慣行、技術の安全性に対する強い取り組みを維持することが不可欠である。一般市民は、これらの強力なAIシステムの背景にあるデータ、プロセス、意思決定について、明確で率直な理解を得る権利がある。

今後、OpenAIはこれらの懸念に正面から取り組み、堅固な外部監視体制を導入し、変革的なAI技術の責任ある開発への真摯な取り組みを実証する必要がある。そうすることで、同社に対する公衆の信頼を完全に取り戻すことができるだろう。