元OpenAIボード・メンバーのHelen Tonerとのインタビューによると、ボードがSam AltmanをCEOから解雇した決定は、いくつかの懸念される問題に起因するものでした:

1. 透明性の欠如: Altmanは、2022年11月のChatGPTの発売や、独立したボード・メンバーであると主張しながらもOpenAIスタートアップ基金の所有権など、重要な情報をボードから繰り返し隠し続けていた。

2. 不正確な情報: Altmanはボードに対して、同社の安全プロセスに関する不正確な情報を提供し、これらの措置の有効性を適切に監視・評価することを不可能にしていた。

3. 信頼の違反: ボードは、嘘、操作、そして一部の幹部が「心理的虐待」と表現した行動パターンのためにAltmanのリーダーシップを信頼できなくなっていた。複数の上級幹部が私的にボードに深刻な懸念を共有していた。

4. ミッションの遂行不能: ボードは、Altmanが人類全体の利益のためにAGI(人工汎用知能)システムを開発するというOpenAIの本来の非営利目的を達成するのに適切な人物ではないと結論付けた。

結局、ボードはAltmanの行動が独立した監視を提供し、同社の公共の利益ミッションを最優先事項に維持する能力を損なっていると感じていた。内部調査では、Altmanの行動が解雇を正当化するものではないと判断されたものの、OpenAIおよびそのミッションの最善の利益のためには、リーダーシップの交代が必要であると考えていた。

OpenAIの最近の動きは、同社の安全性とセキュリティに対するコミットメントに重大な懸念を呼び起こしています。元ボード・メンバーのHelen Tonerによると、CEOのSam Altmanの行動には長年の問題があったようです。これには以下のようなことが含まれています:

• 2022年11月のChatGPTの発売など、重要な情報をボードに隠し続けていた。
• 独立したボード・メンバーであると主張しながらも、OpenAIスタートアップ基金の所有権を開示していなかった。
• 同社の安全プロセスに関する不正確な情報をボードに提供し、それらの有効性を評価することを困難にしていた。

これらの告発と、新機能の優先化に対する懸念から退社したIlya Sutskeverやdario Amodeiなどの上級幹部の退社を考えると、非常に懸念すべき状況が浮かび上がってきます。

Altman自身が率いる新しい「安全とセキュリティ」委員会の設置では、あまり信頼を得られそうにありません。独立した監視なしでの自己規制アプローチでは、元ボード・メンバーが指摘した根深い問題に効果的に取り組めないと考えられます。

透明性の欠如と安全上の懸念に対する無視は、AIの研究開発のリーダーとしてのOpenAIにとって特に懸念すべき問題です。同社がより高度なAIシステムに向かう中で、社会への潜在的なリスクを見過ごすわけにはいきません。

結論として、OpenAIの安全性とセキュリティに対する焦点の当て方に関する懸念は正当なものであり、真剣に取り組む必要があります。強力なAI技術の開発が、より広範な公共の利益に沿ったものとなるよう、効果的な規制と独立した監視が必要かもしれません。

新しい委員会は、OpenAIのすべてのプロジェクトに関する重要な安全とセキュリティの決定について提言する責任を負っています。委員会は今後90日間にわたり、OpenAIのプロセスと安全対策を評価し、さらに発展させていきます。

委員会のメンバーは、ディレクターのBrett Taylor、Adam D'Angelo、Nicole Seligman、そしてSam Altmanです。準備、安全システム、アラインメント科学、セキュリティ、最高科学責任者など、OpenAIからの技術および政策の専門家も委員会に参加します。さらに、OpenAIは元サイバーセキュリティ担当者を含む、その他の安全、セキュリティ、技術の専門家を雇用し、協力を得ることにしています。

90日間の検討期間の後、安全とセキュリティ委員会は提言をOpenAIの取締役会全体に共有します。取締役会の審査を経て、OpenAIは安全とセキュリティに配慮しつつ、採用された提言について一般に公開する更新情報を発表します。

この動きは、元ボード・メンバーがOpenAIの安全性とセキュリティの優先順位に懸念を呈したことを受けたものです。CEOのSam Altmanや他のOpenAI幹部の関与を考えると、この内部委員会の独立性と、意味のある監視を行う能力について疑問が生じます。一般の人々は、この委員会がOpenAIのAI安全性アプローチに実質的な変化をもたらすかどうかを注視することになるでしょう。