لقد أعرب الباحث الذي غادر مؤخرًا OpenAI عن مخاوف جسيمة بشأن أولويات الشركة، مؤكدًا أنه هناك حاجة ملحة إلى معرفة كيفية توجيه والتحكم في أنظمة الذكاء الاصطناعي التي هي أذكى بكثير من البشر. انضم إلى OpenAI لأنه اعتقد أنها ستكون المكان الأفضل لإجراء هذا البحث الحاسم، ولكن كان يختلف مع قيادة الشركة بشأن أولوياتها الأساسية منذ فترة طويلة.

يعتقد الباحث أنه ينبغي أن تنفق OpenAI المزيد من موارد الشركة على الأمن والمراقبة والاستعداد والسلامة والمتانة الضارة والمحاذاة الفائقة والسرية والتأثير المجتمعي. وهو قلق من أن المسار الحالي لا يسير على الطريق الصحيح لحل هذه المشاكل، حيث أن ثقافة السلامة والعمليات قد تم تجاهلها لصالح تطوير المنتجات.

إن بناء آلات أذكى من البشر هو مسعى خطير بطبيعته، وتتحمل OpenAI مسؤولية هائلة نيابة عن جميع البشرية. يقول الباحث إننا متأخرون جدًا في أن نصبح جادين للغاية بشأن تداعيات الذكاء الاصطناعي العام، وعلينا أن نضع الاستعداد لها كأولوية قصوى، لضمان أن يعود الذكاء الاصطناعي العام بالنفع على جميع البشرية.

يخلص الباحث إلى أن على OpenAI أن تصبح "شركة ذكاء اصطناعي عام تضع السلامة في المقام الأول" إذا أرادت النجاح، حيث أن الأولويات الحالية لا تتماشى مع الحاجة الملحة لتوجيه والتحكم في هذه الأنظمة القوية للذكاء الاصطناعي.