أعلنت OpenAI عن إطار الجاهزية، الذي يشمل مجموعة من الإجراءات والأدوات لمراقبة وإدارة المخاطر المحتملة للنماذج القوية للذكاء الاصطناعي.
تأتي هذه البيانات في وقت مضطرب للشركة، حيث تعرضت سابقاً لانتقادات بسبب طريقة تعاملها مع استقالة وتعيين رئيسها التنفيذي، سام ألتمان.
أثارت هذه الجدل مجموعة من التساؤلات حول إدارة الشركة، وتحديداً فيما يتعلق بتطويرها لأنظمة الذكاء الاصطناعي المتقدمة ذات الأثر العالمي.
الإطار الاستعدادي يهدف إلى معالجة بعض هذه المخاوف وإظهار التزام الشركة بتطوير الذكاء الاصطناعي بطريقة مسؤولة وأخلاقية.
وينص الإطار الاستعدادي على كيفية مراقبة OpenAI وتقييمها وتنبؤها والحماية من المخاطر الكارثية التي تتزايد نتيجة النماذج القوية، مثل تلك التي يمكن استخدامها في هجمات إلكترونية أو إقناع جماعي أو الأسلحة المستقلة.
يمثل استعمال بطاقات أداء المخاطر دورًا أساسيًا في إطار الجاهزية لنماذج الذكاء الاصطناعي، حيث تقوم هذه البطاقات بقياس وتتبع مختلف المؤشرات للأضرار المحتملة، مثل قدرات النموذج ونقاط الضعف والتأثيرات.
تقوم الشركة بتبادل البطاقات الخاصة بالأداء بشكل منتظم، مما يؤدي إلى إجراء فحوصات وتدخلات عند الوصول إلى مستويات محددة من المخاطر.
يؤكد إطار الاستعداد أيضًا على أهمية التقييمات والتنبؤات الدقيقة والمبنية على البيانات لقدرات الذكاء الاصطناعي ومخاطره، والابتعاد عن السيناريوهات الافتراضية والتخمينية التي في كثير من الأحيان تكون هي السائدة في الخطاب العام.
وتشير شركة OpenAI إلى أنها تعمل على بذل الجهود في تصميم وتنفيذ تلك التقييمات، وتعمل أيضًا على تطوير الاستراتيجيات المتعلقة بتخفيف المخاطر وتوفير الضمانات.
يتميز إطار الاستعداد بأنه ليس مستندًا ثابتًا، بل هو مستند ديناميكي ومتطور. وتقوم الشركة بشكل مستمر بتحسينه وتحديثه استنادًا إلى البيانات الجديدة والتعليقات والأبحاث، وتشارك نتائجها وممارستها مع مجتمع الذكاء الاصطناعي بشكل واسع.
تُسعى OpenAI إلى مواكبة بروتوكولات السلامة بعد تعرضها لردود فعل عنيفة بسبب نشرها السريع والقوي لنماذج مثل GPT-4.
تنشئ الشركة مجموعة استشارية متعددة الوظائف، وتكون مسؤولة عن مراجعة التقارير المتعلقة بالمخاطر المتعلقة قبل إرسال أي تحديثات إلى قيادة الشركة ومجلس إدارتها.
وقد منحت OpenAI مجلس إدارتها صلاحية إلغاء قرارات قيادة الشركة. ويكون مجلس الإدارة المسؤول النهائي عن اتخاذ القرارات بدلاً من الرئيس التنفيذي، سام ألتمان.
وصرحت OpenAI: “على الرغم من أن القيادة تأخذ القرارات، إلا أن مجلس الإدارة يحتفظ بحقه في إلغاء القرارات”.
ويظهر أن الإطار الجديد للتحضير يشير إلى أن سام ألتمان وفريقه لا يزالون مسؤولين تجاه مجلس إدارة الشركة، وقد يتوافق ذلك أيضًا مع تصريحات ألتمان العلنية.
صرح ألتمان في شهر يونيو بأنه لا ينبغي الاعتماد على أي شخص هناك. وأكد أنه ليس لديه أسهم تحظى بحق التصويت المطلق وأنه لا يرغب في ذلك. وقد أشار إلى إمكانية إقالته من قبل مجلس الإدارة ويعتبر ذلك أمرًا هامًا.
