تسلط الرسالة الضوء على مخاطر خطيرة عديدة ينطوي عليها تقنية الذكاء الاصطناعي المتقدمة:

• تعزيز المزيد من عدم المساواة القائمة
• التلاعب والمعلومات المضللة
• فقدان السيطرة على أنظمة الذكاء الاصطناعي المستقلة، مما قد ينتج عنه انقراض البشرية
• حصول الجهات الفاعلة السيئة على نماذج الذكاء الاصطناعي القوية دون تصفية وإلحاق أضرار كبيرة

تنص الرسالة على أن هذه المخاطر قد تم الاعتراف بها من قبل شركات الذكاء الاصطناعي والحكومات وخبراء الذكاء الاصطناعي الآخرين. ومع ذلك، فإن لدى شركات الذكاء الاصطناعي حوافز مالية قوية لتجنب الرقابة الفعالة، والهياكل الحالية للحوكمة الشركاتية غير كافية لمعالجة هذه المخاوف.

تدعو الرسالة شركات الذكاء الاصطناعي إلى الالتزام بمبادئ تسمح للموظفين الحاليين والسابقين برفع مخاوف متعلقة بالمخاطر دون خوف من الانتقام أو فقدان المزايا الاقتصادية المكتسبة. كما تطلب عملية قابلة للتحقق بشكل مجهول لرفع هذه المخاوف إلى مجلس إدارة الشركة والجهات التنظيمية والمنظمات المستقلة.

بشكل عام، تؤكد الرسالة على الحاجة الملحة إلى مزيد من الشفافية والمساءلة والرقابة العامة لتخفيف المخاطر الخطيرة التي تشكلها تقنية الذكاء الاصطناعي المتقدمة مع استمرار تطورها بسرعة.

تسلط الرسالة الضوء على المخاطر الخطيرة التي تشكلها تقنيات الذكاء الاصطناعي المتقدمة، والتي تتراوح من تعزيز المزيد من عدم المساواة القائمة إلى احتمال فقدان السيطرة على أنظمة الذكاء الاصطناعي المستقلة التي قد تؤدي إلى انقراض البشرية. ويعترف المؤلفون بأنه في حين أن شركات الذكاء الاصطناعي والحكومات قد أدركت هذه المخاطر، هناك حوافز مالية قوية لشركات الذكاء الاصطناعي لتجنب الرقابة الفعالة.

يجادل المؤلفون بأن الهياكل الحالية للحوكمة الشركاتية غير كافية لمعالجة هذه المخاوف، حيث تمتلك شركات الذكاء الاصطناعي معلومات غير عامة كبيرة عن قدرات وحدود أنظمتها وكفاية تدابير الحماية ومستويات المخاطر لديها. ومع ذلك، فإن لديها التزامات ضعيفة فقط لمشاركة هذه المعلومات مع الحكومات وليس لديها أي التزامات مع المجتمع المدني.

تدعو الرسالة شركات الذكاء الاصطناعي إلى الالتزام بمبادئ تؤدي إلى مزيد من الشفافية والمساءلة، بما في ذلك:

1. عدم الدخول في أو إنفاذ أي اتفاق يحظر التشهير أو النقد للشركة بشأن المخاوف المتعلقة بالمخاطر، ولا الانتقام لمثل هذا النقد من خلال إعاقة أي مزايا اقتصادية مكتسبة.

2. تسهيل عملية قابلة للتحقق بشكل مجهول للموظفين الحاليين والسابقين لرفع المخاوف المتعلقة بالمخاطر إلى مجلس إدارة الشركة والجهات التنظيمية والمنظمات المستقلة المناسبة.

3. دعم ثقافة النقد المفتوح والسماح للموظفين الحاليين والسابقين برفع المخاوف المتعلقة بالمخاطر بشأن تقنيات الشركة للجمهور أو مجلس إدارة الشركة أو الجهات التنظيمية أو المنظمات المستقلة المناسبة، مع حماية الأسرار التجارية وحقوق الملكية الفكرية.

يجادل المؤلفون بأن هذه التدابير ضرورية لضمان تحقيق المنافع المحتملة للذكاء الاصطناعي مع التخفيف من المخاطر الخطيرة التي تشكلها هذه التقنيات. وتسلط الرسالة الضوء على الحاجة إلى رقابة وحوكمة فعالة لمعالجة التحديات التي تطرحها التطورات السريعة لأنظمة الذكاء الاصطناعي المتقدمة.

تسلط الرسالة الضوء على المشكلات المقلقة المحيطة بهياكل الحوكمة الشركاتية لشركات الذكاء الاصطناعي الرائدة. وتنص على أنه في حين أن هذه الشركات تمتلك معلومات غير عامة كبيرة عن قدرات وحدود ومخاطر أنظمة الذكاء الاصطناعي الخاصة بها، فإن لديها حاليًا التزامات ضعيفة فقط لمشاركة هذه المعلومات مع الحكومات والجمهور.

تجادل الرسالة بأن شركات الذكاء الاصطناعي لديها حوافز مالية قوية لتجنب الرقابة الفعالة، وأن الهياكل الحالية للحوكمة الشركاتية غير كافية لمعالجة هذا الأمر. وتشير إلى مثال OpenAI، حيث سمحت هيكلة مجلس الإدارة الفريدة واستقلاليته باتخاذ قرارات دون استشارة أصحاب المصلحة، مما أدى إلى إزالة المدير التنفيذي سام ألتمان بشكل مفاجئ. ويؤكد هذا الحادث على عواقب هيكل الحوكمة الذي يفشل في موازنة الأهداف التنظيمية المختلفة ومصالح أصحاب المصلحة.

وعلى النقيض من ذلك، تستشهد الرسالة بحالة Anthropic، التي طورت نموذج حوكمة مصمم لدعم مهمتها وأهدافها المالية بشكل أكثر فعالية. ويهدف هذا الهيكل إلى منع الصراعات التي شوهدت في OpenAI من خلال إدراج الضوابط والموازنات واستيعاب وجهات نظر مختلف أصحاب المصلحة.

تختتم الرسالة بالدعوة إلى شركات الذكاء الاصطناعي للالتزام بمبادئ تسهل ثقافة النقد المفتوح وتسمح للموظفين الحاليين والسابقين برفع المخاوف المتعلقة بالمخاطر دون خوف من الانتقام أو فقدان المزايا الاقتصادية المكتسبة. وهذا، كما يجادل المؤلفون، ضروري لضمان الرقابة العامة والمساءلة الكافية لتطوير أنظمة الذكاء الاصطناعي المتقدمة.

تسلط الرسالة الضوء على الحاجة الحرجة إلى مزيد من الشفافية وحماية الموظفين في تطوير أنظمة الذكاء الاصطناعي المتقدمة. النقاط الرئيسية:

• تمتلك شركات الذكاء الاصطناعي معلومات غير عامة كبيرة عن قدرات وحدود ومخاطر أنظمتها، ولكن لديها التزامات ضعيفة لمشاركتها مع الحكومات والجمهور.

• الهياكل الحالية للحوكمة الشركاتية غير كافية لمعالجة هذه المخاطر بشكل كاف، حيث أن لدى شركات الذكاء الاصطناعي حوافز مالية قوية لتجنب الرقابة الفعالة.

• تحظر اتفاقيات السرية الواسعة الموظفين الحاليين والسابقين من التعبير عن مخاوفهم، حيث يخاطرون بفقدان تعويضات الأسهم الكبيرة إذا تحدثوا.

• تدعو الرسالة شركات الذكاء الاصطناعي إلى الالتزام بمبادئ تحمي قدرة الموظفين على رفع انتقادات متعلقة بالمخاطر دون انتقام، وتسهيل الإبلاغ المجهول عن المخاوف إلى مجلس إدارة الشركة والجهات التنظيمية والخبراء المستقلين.

• إن العمليات الشفافة والمساءلة أمر أساسي لضمان التطوير المسؤول للتقنيات الذكاء الاصطناعي المحولة التي قد تشكل مخاطر وجودية على البشرية. وتمكين الموظفين من مناقشة هذه القضايا بشكل مفتوح هو خطوة حاسمة.

تدعو الرسالة من الموظفين الحاليين والسابقين في شركات الذكاء الاصطناعي الرائدة شركات الذكاء الاصطناعي المتقدمة إلى الالتزام بعدة مبادئ رئيسية:

1. عدم اتفاقيات التشهير: لن تدخل الشركات في أو تنفذ أي اتفاق يحظر التشهير أو النقد للشركة بشأن المخاوف المتعلقة بالمخاطر.

2. عدم الانتقام: لن تنتقم الشركات من الموظفين لرفع انتقادات متعلقة بالمخاطر من خلال إعاقة أي مزايا اقتصادية مكتسبة.

3. عملية الإبلاغ المجهول: ستسهل الشركات عملية قابلة للتحقق بشكل مجهول للموظفين الحاليين والسابقين لرفع المخاوف المتعلقة بالمخاطر إلى مجلس إدارة الشركة والجهات التنظيمية والمنظمات المستقلة المناسبة.

4. ثقافة النقد المفتوح: ستدعم الشركات ثقافة النقد المفتوح وتسمح للموظفين الحاليين والسابقين برفع المخاوف المتعلقة بالمخاطر بشأن تقنياتها للجمهور أو مجلس إدارة الشركة أو الجهات التنظيمية أو المنظمات المستقلة المناسبة، مع حماية الأسرار التجارية وحقوق الملكية الفكرية.

تجادل الرسالة بأن هذه المبادئ ضرورية لأن شركات الذكاء الاصطناعي لديها حاليًا حوافز مالية قوية لتجنب الرقابة الفعالة، والهياكل الحالية للحوكمة الشركاتية غير كافية لمعالجة المخاطر الخطيرة التي تشكلها أنظمة الذكاء الاصطناعي المتقدمة. من خلال الالتزام بهذه المبادئ الأخلاقية، تنص الرسالة على أن شركات ال