أشارت إدارة بايدن إلى أنها قد أخذت خطوة رئيسية في وضع معايير للذكاء الاصطناعي التوليدي وتوجيهات أساسية للنشر الآمن واختبار الأنظمة وحمايتها.
وقال المعهد الوطني للمعايير والتكنولوجيا التابع لوزارة التجارة إنه يهدف إلى الحصول على مساهمة عامة بحلول الثاني من شهر فبراير لإجراء اختبارات رئيسية حاسمة لضمان سلامة أنظمة الذكاء الاصطناعي.
أوضحت وزيرة التجارة، جينا ريموندو، أن هذه الجهود تعززت بناءً على الأمر التنفيذي الصادر عن الرئيس، جو بايدن، في الشهر العاشر بشأن التطورات في مجال الذكاء الاصطناعي.
يهدف هذا الأمر التنفيذي إلى تطوير معايير الصناعة فيما يتعلق بسلامة الذكاء الاصطناعي، وذلك لتمكين الولايات المتحدة من الاستمرار في قيادة العالم في التطوير المسؤول واستخدام هذه التكنولوجيا المتقدمة بشكل فعّال.
يوفر المعهد الوطني للمعايير والتكنولوجيا توجيهات لتقييم التكنولوجيا الجديدة وتسهيل تطوير المعايير وتأمين بيئات اختبار لتقييم أنظمتها.
يهدف المعهد إلى جمع آراء شركات الذكاء الاصطناعي والجمهور بخصوص إدارة مخاطر التكنولوجيا التوليدية وتقليل مخاطر البيانات الخاطئة الناجمة عن هذه التقنية الجديدة.
أحدثت التقنية الذكاء الاصطناعي التطورات في الفترة الأخيرة مخاوف بشأن الوظائف التي قد تصبح غير مطلوبة، وتأثيرها على نتائج الانتخابات، والتفوق على البشر، وتسبب آثاراً كارثية.
طلب بايدن من الوكالات وضع معايير للاختبار المذكور ومعالجة المخاطر الكيميائية والبيولوجية والإشعاعية والنووية ومخاطر الأمن السيبراني المرتبطة بها.
يقوم المعهد الوطني للمعايير والتكنولوجيا بتطوير إرشادات للاختبار، بما في ذلك الفريق الأحمر، الذي يستخدم لتقييم وإدارة مخاطر التقنيات الجديدة وتحديد الممارسات الفضلى في هذا المجال.
استخدم الفريق الأحمر لفترة طويلة في قطاع الأمن السيبراني لتحليل المخاطر الجديدة، ويشير هذا المصطلح إلى عمليات محاكاة حروب الباردة الأمريكية، حيث يتم تسمية العدو بـ “الفريق الأحمر”.
تم تنظيم أول حدث لفريق الأحمر للتقييم العام في الولايات المتحدة في شهر أغسطس خلال مؤتمر كبير للأمن السيبراني، من قبل AI Village و SeedAI و Humane Intelligence.
وأشار البيت الأبيض أن هناك آلاف المشاركين الذين حاولوا التحقق مما إذا كان بإمكانهم توليد نتائج غير مرغوب فيها من الأنظمة، وهذا بهدف فهم المخاطر التي تنطوي عليها هذه الأنظمة.
