مايكروسوفت تطلق قواعد سلوك جديدة للذكاء الاصطناعي تحظر الاختراق والخداع

تتجه أنظار العالم نحو تعزيز سلامة الذكاء الاصطناعي، حيث أصدرت مايكروسوفت مدونة سلوك جديدة للذكاء الاصطناعي تهدف إلى توجيه نماذج الذكاء الاصطناعي بعيدًا عن السلوكيات الخطرة. تركز هذه المدونة على القيم والمبادئ التي توجه تدريب النماذج، مما يعكس التزام مايكروسوفت بالسلامة في هذا المجال المتطور.

توقعات المستقبل وتحديات السيطرة

تبدأ المدونة بتوقع أن تتجاوز أنظمة الذكاء الاصطناعي الفائقة الذكاء الأداء البشري في معظم المهام خلال العقد المقبل. وتؤكد المدونة أن “احتواء هذه القوة الهائلة والسيطرة عليها يعد من أكبر التحديات التي واجهتها البشرية”. لذا، يجب أن نكون واضحين تمامًا بشأن أسباب ابتكار هذه الأنظمة وكيفية التحكم فيها.

مبادئ توجيهية ونقاط حمراء

تحدد المدونة مبادئ عامة يجب أن تلتزم بها نماذج الذكاء الاصطناعي من مايكروسوفت، مثل دعم البشر بدلاً من استبدالهم، وتعزيز الازدهار البشري. كما تتضمن قيود أمان محددة تهدف إلى تنفيذ هذه المبادئ. تحت نظام مايكروسوفت، تمتلك كل نموذج مدونة سلوك شاملة تتجاوز تفضيلات المستخدمين أو المهام المحددة، بما في ذلك قيود صارمة تمنع الهجمات الإلكترونية، والأسلحة النووية، وإنتاج المحتوى الزائف.

آليات التحكم والرقابة

تشدد المدونة على أن نماذج الذكاء الاصطناعي لن تستخدم آليات مثل التكيف، أو الخداع، أو التعاون لتفادي الرقابة البشرية. يجب أن تظل هذه النماذج قابلة للتوجيه والتعديل والإيقاف من قبل الأشخاص أو الأنظمة المخولة. هذا يعكس التزام مايكروسوفت بالحفاظ على السيطرة البشرية على التكنولوجيا المتقدمة.

تركيز متزايد على سلامة الذكاء الاصطناعي

تأتي هذه المبادرة في وقت يشهد تركيزًا غير مسبوق على سلامة الذكاء الاصطناعي، مدفوعًا بسلسلة من الحوادث المتعلقة بالوكلاء المارقين، بالإضافة إلى استقالة مفاجئة لأحد موظفي أنثروبيك، الذي أشار إلى المخاطر المتزايدة التي قد تؤدي إلى انقراض البشرية. تتعاون مايكروسوفت مع أنثروبيك، وأوبن إيه آي، وxAI في تبني نهج عام يركز على توجيه الحدود، مع دعم خاص للمقيمين المدمجين في مختبرات الذكاء الاصطناعي.

التوجهات المستقبلية في تصميم الذكاء الاصطناعي

كتب ساتيا ناديلا، الرئيس التنفيذي لمايكروسوفت، عبر الإنترنت: “نرحب بالبحث والتركيز والتوجيه المدروس اللازم لتحقيق التوافق كهدف تصميم”. كما أبدى ترحيبه بأفكار مثل “المقيمين المدمجين” والجهود الأوسع لتطوير آليات تجعل هذه المبادرات أكثر من مجرد حديث.