أصدرت جوجل توجيهات جديدة للمطورين الذين يقومون بإنشاء تطبيقات ذكاء اصطناعي يتم توزيعها عبر متجر تطبيقات أندرويد التابع لها، بهدف الحد من المحتوى غير الملائم والمحظور.
تقول الشركة أن التطبيقات التي تقدم ميزات الذكاء الاصطناعي يجب عليها منع إنشاء المحتوى المحظور – والذي يتضمن المحتوى الجنسي والعنف وغيره – ويجب تقديم وسيلة للمستخدمين للإبلاغ عن المحتوى المسيء الذي يواجهونه.
وبالإضافة إلى ذلك، تؤكد جوجل أن المطورين يحتاجون إلى إجراء اختبارات دقيقة على أدوات الذكاء الاصطناعي لضمان احترامها لسلامة المستخدم وخصوصيته.
كما أنها تتخذ تدابير حازمة ضد التطبيقات التي تُروج لمحتوى تسويقي يتناول استخدامات غير ملائمة، مثل التطبيقات التي تزيل ملابس الأشخاص أو تنشئ صورًا عارية دون موافقتهم.
وفي حال ذكرت نسخة الإعلان أن التطبيق لديه القدرة على القيام بمثل هذه الأمور، فقد يتم حظره من متجر جوجل بلاي، سواء كان التطبيق قادرًا بالفعل على ذلك أم لا.
هذه التوجيهات تأتي بعد أن ظهرت العديد من تطبيقات الذكاء الاصطناعي في الأشهر الأخيرة، والتي تروج لنفسها عبر منصات التواصل الاجتماعي.
وجد تقرير صدر في شهر أبريل أن إنستاجرام كانت تستضيف إعلانات لتطبيقات تدعي أنها تستخدم الذكاء الاصطناعي لتوليد صور عارية وهمية.
أفادت المدارس في جميع أنحاء الولايات المتحدة بوجود مشكلات تتعلق بتبادل الطلاب صورًا عارية مزيفة بتقنية الذكاء الاصطناعي لطلاب آخرين لأغراض التنمر والتحرش، بالإضافة إلى أنواع أخرى من المحتوى غير المناسب الناتج عن الذكاء الاصطناعي.
وسحبت شركتا جوجل وآبل التطبيقات من متاجر التطبيقات، رغم أن المشكلة لا تزال منتشرة بشكل كبير.
وتقول جوجل إن سياساتها تسهم في منع التطبيقات التي تحتوي على محتوى مولد بواسطة الذكاء الاصطناعي وقد يكون غير مناسب أو ضار للمستخدمين من الوصول إلى متجر التطبيقات.
تقول الشركة إنه لا يمكن لتطبيقات الذكاء الاصطناعي أن تسمح بإنتاج أي محتوى مقيد، كما يجب أن توفر للمستخدمين وسيلة للإبلاغ عن المحتويات المسيئة وغير الملائمة، بالإضافة إلى مراقبة ومراجعة تلك التعليقات وتحديد أولوياتها.
وعلاوة على ذلك، يقع على عاتق المطورين مسؤولية حماية تطبيقاتهم من الادعاءات التي قد تستغل خصائص الذكاء الاصطناعي لإنتاج محتوى ضار أو مسيء.
وتفيد جوجل بأن المطورين يستطيعون الاستفادة من ميزة الاختبار المغلق لمشاركة نسخ مبكرة من تطبيقاتهم مع المستخدمين بهدف الحصول على ملاحظاتهم.
وتوصي الشركة بأن يقوم المطورون بتوثيق تلك الاختبارات قبل الإطلاق، حيث إنه من المحتمل أن تطلب جوجل مراجعتها في المستقبل.
