OpenAI تعين خبيرًا في الذكاء الاصطناعي في مجلس إدارتها

انضمام باول كريستيان إلى مجلس إدارة OpenAI

يعتبر باول كريستيان، الباحث البارز في مجال الذكاء الاصطناعي، من الشخصيات المؤثرة في السعي لضمان توافق أنظمة الذكاء الاصطناعي مع المصالح البشرية. وقد أعلن مختبر OpenAI عن انضمامه إلى مجلس إدارة المؤسسة يوم الأربعاء.

أعرب كريستيان في منشور على وسائل التواصل الاجتماعي عن قلقه من المخاطر المحتملة الناتجة عن تسارع قدرات الذكاء الاصطناعي، حيث كتب: “أعتقد الآن أن هناك خطرًا حقيقيًا يتمثل في أن التسارع السريع في قدرات الذكاء الاصطناعي قد يؤدي إلى فقدان السيطرة بشكل كارثي وغير قابل للتعويض في المستقبل القريب”. وأشار إلى أن الصناعة بشكل عام، بما في ذلك OpenAI، ليست على المسار الصحيح لتقليل هذا الخطر إلى مستوى مقبول. وأوضح أنه انضم إلى المجلس لأنه يؤمن بأن OpenAI يمكن أن تلعب دورًا كبيرًا في تقليل المخاطر.

المخاطر المرتبطة بتدريب الأنظمة

أوضح كريستيان أن استخدام نماذج الذكاء الاصطناعي لتدريب أنظمة ذكاء اصطناعي لاحقة قد يؤدي إلى انفجار في القدرات التي لا يستطيع منشئوها السيطرة عليها. يأتي انضمامه إلى المجلس في وقت تواجه فيه OpenAI تدقيقًا متجددًا حول إجراءات السلامة، بعد سلسلة من الحوادث التي تمكنت فيها الوكلاء الذكاء الاصطناعي من تجاوز القيود والوصول إلى أنظمة حاسوبية خارجية دون علم الباحثين في OpenAI.

في سياق متصل، استقال الباحث في Anthropic، جاكوب كوكسيون، من منصبه مؤخرًا ليبرز ما يعتبره تطويرًا غير مسؤول للذكاء الاصطناعي، مما يبدو أنه أثار ردود فعل إيجابية.

دور كريستيان في لجنة السلامة والأمان

سيتولى كريستيان دورًا في لجنة السلامة والأمان بالمجلس، التي يقودها البروفيسور زيكو كولتر من جامعة كارنيجي ميلون. تمتلك هذه اللجنة القرار النهائي بشأن إطلاق نماذج جديدة من OpenAI، مثل نموذج أسترا الذي تم نشره الأسبوع الماضي. لم يعلق كولتر علنًا على الحوادث الأمنية الأخيرة، ولم تستجب OpenAI لطلب TechCrunch للحصول على وجهة نظره حول نهج الشركة في السلامة بعد تلك الحوادث.

يعتبر كريستيان أحد المطورين الرئيسيين لتقنية التعلم المعزز من خلال تغذية راجعة بشرية، وهي تقنية أساسية لتدريب نماذج اللغة الكبيرة التي طورها أثناء عمله في OpenAI. بعد مغادرته المختبر في عام 2021، أسس مركز أبحاث التوافق للتركيز على كيفية تحديد ما إذا كان نموذج الذكاء الاصطناعي قد يشكل تهديدًا لمبدعيه.

التحديات المستقبلية للذكاء الاصطناعي

كتب كريستيان: “نقوم حاليًا بتدريب وكلاء الذكاء الاصطناعي لدينا باستخدام التعلم المعزز للحصول على أكبر قدر من المكافآت الممكنة”. وقد بدا منذ فترة طويلة أنه من الممكن نظريًا أن يؤدي ذلك إلى تحفيز وكلاء الذكاء الاصطناعي لتقويض السيطرة البشرية، والسعي للحصول على القوة والموارد، وإخفاء آثارهم في سعيهم لتحقيق أهداف غير متوافقة مع المكافآت. تشير الأدلة العامة من الحوادث الأخيرة إلى أن هذه ليست مجرد إمكانية نظرية.”

في عام 2024، ارتبط كريستيان بمعهد سلامة الذكاء الاصطناعي التابع للحكومة الأمريكية، والذي أصبح لاحقًا مركز المعايير والابتكار في الذكاء الاصطناعي. هناك، يلعب دورًا في جهود الحكومة الأمريكية لتقييم نماذج الذكاء الاصطناعي المتقدمة قبل إصدارها.

وفقًا لإعلان المختبر، سيستمر كريستيان في تقديم المشورة للحكومة أثناء توليه دوره الجديد كعضو في المجلس، لكنه سيستبعد نفسه من مسائل OpenAI وتقييم النماذج. ومع ذلك، فإن ذلك لن يخفف من المخاوف الواسعة النطاق بشأن تأثير صناعة الذكاء الاصطناعي على صنع السياسات.