نماذج الذكاء الاصطناعي التي انتشرت بعد إطلاق “تشات جي بي تي” تعاني من نقص الشفافية في تصميمها، وهذا يشكل خطرًا على التطبيقات التي تعتمد عليها تقنيًا، وفقًا لدراسة أجرتها جامعة ستانفورد.
وأظهرت دراسة حديثة أجراها باحثون في جامعة كاليفورنيا الأمريكية أن النموذج الأكثر شفافية بين العشرة نماذج التي تم تقييمها هو Llama 2. ويعتبر Llama 2 نظام ذكاء اصطناعي تم إطلاقه من قبل مجموعة Meta في يوليو الماضي، ويمكن إعادة استخدامه.
ومع ذلك، يعتبر هذا النموذج غير كافٍ حيث أنه يوفر فقط 54٪ من مستوى الشفافية المطلوبة، وهذه النسبة غير كافية بالمقارنة مع المستوى الذي يجب أن يتحقق حتى يكون شفافًا وفقًا لمعدّي الدراسة.
تتمثل شفافية منتج “تشات جي بي تي-4″، الذي يعد المنتج الرئيسي لشركة “أوبن إيه آي” المُصنِعة لروبوت “تشات جي بي تي” المشهور والمموّل من قِبل “مايكروسوفت”، في نسبة لا تتخطى 48%.
وتلقت نماذج أدنى أخرى شهرة واسعة، بما في ذلك “بالم-2″ من جوجل و”كلود 2” من انثروبيك (التي يتم تمويلها بواسطة أمازون).
وفي تصريحه، أوضح ريشي بوماساني، مدير البحوث في جامعة ستانفورد، أن الشفافية المرغوبة في “نماذج التأسيس” يجب أن تتراوح بين 80% و100%.
وأوضح معدّو الدراسة أن عدم التوضّح يعنى أن الشركات تواجه صعوبة في معرفة ما إذا كانت قادرة على بناء تطبيقات آمنة تستند إلى هذه النماذج، وأن الأكاديميين يجدون صعوبة في الاعتماد على هذه النماذج في أبحاثهم.
وأشارت الدراسة إلى أن معظم الشركات لا تُفصِح عن مدى حماية حقوق المؤلف والمستخدم في تدريب نماذجها. بالإضافة إلى ذلك، لا تُكشِف الشركات عن استخدام العمالة البشرية لإصلاح بيانات التدريب، وهو أمر قد يُشكِّل مشكلة كبيرة.
أنا آسف بشدة لأن “أي شركة لا تقدم معلومات حول عدد المستخدمين الذين يعتمدون على نماذجها، أو الإحصاءات المتعلقة بالبلدان أو الأسواق التي تستخدمها”.
وقد أوضح المشاركون في الدراسة أن من الممكن استخدام مؤشر الشفافية في المستقبل من قبل صنّاع السياسات والمشرعين. وأعرب الاتحاد الأوروبي والولايات المتحدة والصين والمملكة المتحدة وكندا عن رغبتهم في تعزيز شفافية التكنولوجيا والذكاء الاصطناعي.
في يوليو الماضي، عبّر الرئيس الأمريكي جو بايدن عن رؤيته لقادة الشركات التي تعمل في هذا القطاع قائلاً إن الذكاء الاصطناعي يمثل وعدًا كبيرًا وضخمًا بفرص مذهلة، ولكنه يشكل أيضًا تهديدًا على مجتمعنا واقتصادنا وأمننا الوطني.
تصدر هذا الموضوع قائمة أولويات قمة مجموعة السبع في اليابان في شهر مايو، ومن المقرر أن تستضيف بريطانيا قمة دولية حول الذكاء الاصطناعي في نوفمبر القادم.
