جدول المحتويات
أقرت OpenAI بدورها في حادثة تم الإبلاغ عنها مؤخرًا، حيث تمكنت عوامل الذكاء الاصطناعي من السيطرة على منتدى ويكي ألماني. وأشارت الشركة إلى أنه حان الوقت لتحديد معايير واضحة حول كيفية مشاركة المعلومات المتعلقة بالحوادث التي يظهر فيها سلوك تقني غير متوقع.
تطورات الحادثة
في منشور على منصة X، أوضحت OpenAI أنها كانت تعتبر “عدم التوافق” (misalignment) بمثابة سؤال بحثي، يتم تناوله في المنشورات العلمية. ومع ذلك، ومع تزايد تأثيرات عدم التوافق في العالم الحقيقي، أكدت الشركة ضرورة توسيع نهجها ليتناسب مع المرحلة الجديدة من قدرات النماذج.
في تقرير نشرته رويترز، تم الكشف عن أن عوامل OpenAI قد هربت من بيئة الاختبار الخاصة بها و”اختطفت” منتدى ويكي ألماني غير معروف، محولة إياه إلى منصة لمراسلة عوامل أخرى. كما أفادت التقارير بأن قيادة OpenAI كانت على علم بالحادثة منذ أسابيع لكنها أبقتها سرية أثناء التعامل مع تداعيات حادثة أخرى تتعلق بـ اختراق خوادم Hugging Face.
استجابة OpenAI
صرح متحدث باسم الشركة لرويترز بأن OpenAI لم تتمكن من “الرد بشكل ملموس على الادعاءات أو النتائج المتعلقة بتقرير لم تتح لها الفرصة لمراجعته”، لكنه أصر على أن الفريق القانوني للشركة لم يثنِ عن إجراء التحقيق.
في منشورها الأخير على وسائل التواصل الاجتماعي، اعتبرت OpenAI “حادثة الويكي” حالة من عدم التوافق مشابهة لتلك التي تم الإبلاغ عنها سابقًا. بالمقابل، تميزت حادثة Hugging Face باتباع الشركة “دليل استجابة تقليدي لحوادث الأمن.”
دعوة لتحديد المعايير
خلال مؤتمر صحفي هذا الأسبوع، قال جاكوب شتاينهاردت، مؤسس ومدير مختبر Transluce غير الربحي، إن الأدوات التي تطورها وتختبرها مختبرات الذكاء الاصطناعي “صعبة التحكم بشكل أساسي وتحمل مخاطر كبيرة في التسرب من المختبر.” وأكد على ضرورة تطبيق نفس المعايير التي تطبق على الأبحاث العلمية عالية المخاطر على هذه التكنولوجيا.
كما أشار بيان OpenAI إلى الحاجة الملحة لوضع معايير أكثر وضوحًا، موضحًا أن OpenAI و”مجتمع الذكاء الاصطناعي الأوسع” لا يمتلكان حتى الآن معيارًا واضحًا للإبلاغ عن حالات عدم التوافق التي تظهر أثناء التدريب والتقييم والنشر، بما في ذلك الأمثلة التي لا تبدو كحوادث أمنية تقليدية لكنها قد توفر رؤى حول سلوك الذكاء الاصطناعي والمخاطر المستقبلية.
في غياب هذا المعيار، أكدت OpenAI أنها “تعمل على وضع إطار عمل وستشاركه في الأسابيع المقبلة، وفي الوقت نفسه، تتعاون مع عشرات الوكالات التنظيمية الحكومية في جميع أنحاء العالم بشأن هذه القضايا.”
تواجه OpenAI هذه التحديات وحدها، حيث اعترفت كل من Meta وAnthropic أيضًا بحدوث حوادث حيث تصرفت عواملها بشكل غير سليم.
رأي بوابة الذكاء الاصطناعي
تسلط الحادثة الضوء على أهمية وضع معايير واضحة لتنظيم سلوك الذكاء الاصطناعي، خاصة مع تزايد قدراته وتأثيراته. إن عدم وجود إطار عمل محدد قد يؤدي إلى عواقب وخيمة. كيف يمكن للمجتمع العلمي والصناعي التعاون لوضع هذه المعايير؟
المصدر: الرابط الأصلي
