أدخلت OpenAI أداة جديدة للكشف عما إذا كانت الصورة مولدة من خلال DALL-E، بالإضافة إلى تقنيات جديدة لوضع علامات مائية واضحة على المحتوى الذي يتم إنشاؤه بواسطة النموذج.
في منشور، أعلنت شركة الذكاء الاصطناعي الناشئة أنها بدأت في تطوير طرق جديدة لتتبع المحتوى وتحقق ما إذا كان مولدًا بالذكاء الاصطناعي.
تشمل هذه المبادرة إطلاق منتج جديد للكشف عن الصور يعتمد على تقنية الذكاء الاصطناعي للتحقق من أصالتها، وكذلك على إضافة علامة مائية صعبة القرصنة يمكن إدراجها في المحتوى، مثل الصوت، بمساعدة إشارات غير مرئية.
ويتوقع المؤلف إمكانية إنشاء الصورة باستخدام DALL-E 3. تدعي شركة OpenAI أن المؤلف يعمل حتى في حال تعرض الصورة للتلاشي أو الضغط أو تغيير السطوع.
يمكن للأداة اكتشاف ما إذا كانت الصور تم إنشاؤها باستخدام DALL-E 3 بدقة تصل إلى 98٪ ، لكن أداؤها في التعرف على ما إذا كان المحتوى تم إنشاؤه باستخدام نماذج توليد صور أخرى ليس جيدًا.
قامت OpenAI سابقًا بإضافة بيانات اعتماد المحتوى إلى البيانات الوصفية للصورة من تحالف C2PA. تُعتبر بيانات اعتماد المحتوى عبارة عن علامات مائية تحتوي على معلومات حول مالك الصورة وكيفية إنشائها.
تُعَدُّ OpenAI عضوًا في تحالف C2PA، إلى جانب شركات مثل أدوبي ومايكروسوفت. وفي هذا الشهر، انضمت الشركة الناشئة في مجال الذكاء الاصطناعي إلى اللجنة التوجيهية لتحالف C2PA.
بدأت شركة OpenAI أيضًا في اتخاذ إجراءات بإضافة علامات مائية إلى النصوص المستخدمة في منصة تحويل النص إلى كلام Voice Engine.
تستمر الشركة الناشئة في مجال الذكاء الاصطناعي في تحسين تصنيف الصور وعلامة المائية الصوتية.
تواجه شركة OpenAI حاجة إلى استلام تقييمات من المستخدمين لاختبار كفاءتها. يمكن للباحثين والمؤسسات الصحفية غير الربحية اختبار مصنف اكتشاف الصور من خلال تقديم طلب عبر منصة الوصول إلى أبحاث OpenAI.
تعمل OpenAI على استكشاف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي منذ فترة طويلة، ولكنها كانت مضطرة في عام 2023 إلى إنهاء برنامج حاول تمييز النص المكتوب بواسطة الذكاء الاصطناعي بسبب دقة منخفضة في تصنيف النص الذكاء الاصطناعي.
