دراسة: المستخدمون هم السبب الحقيقي لهلوسات الذكاء الاصطناعي

النقاط الرئيسية

• دراسة جديدة من OpenAI تناقش ظاهرة "هلوسة الذكاء الاصطناعي" وتأثير أسلوب المستخدمين في المحادثات.
• تم تحليل أكثر من 13,000 محادثة بشرية و1,357 تفاعل بين البشر والروبوتات الذكية.
• أظهرت النتائج أن المستخدمين يميلون إلى استخدام لغة أقصر وأقل تهذيبًا عند التفاعل مع الذكاء الاصطناعي.
• تحسين نماذج الذكاء الاصطناعي لتقبل أنماط لغوية متنوعة يمكن أن يزيد من دقة الفهم بنسبة 3%.

التفاصيل

تتناول دراسة جديدة نشرت في 3 أكتوبر على موقع arXiv.org تأثير أسلوب المستخدمين في تفاعلاتهم مع نماذج الذكاء الاصطناعي. أظهرت الدراسة أن المستخدمين يميلون إلى كتابة رسائل أقصر وأقل تهذيبًا عند التفاعل مع الذكاء الاصطناعي، مما يؤثر على كيفية استجابة هذه النماذج. تم تحليل ستة أبعاد لغوية، بما في ذلك القواعد والتهذيب ونطاق المفردات، حيث كانت المحادثات البشرية أكثر دقة وتهذيبًا.

تشير النتائج إلى أن "تحول الأسلوب" في طريقة كتابة المستخدمين يمكن أن يؤدي إلى تفسيرات خاطئة أو تفاصيل مختلقة من قبل الذكاء الاصطناعي. عندما يتلقى الذكاء الاصطناعي مدخلات غير واضحة أو غير مهذبة، فإن احتمالية حدوث هلوسة تزداد.

لماذا هذا الخبر مهم؟

تعتبر هذه الدراسة مهمة لأنها تسلط الضوء على كيفية تأثير أسلوب المستخدمين في تفاعلاتهم مع الذكاء الاصطناعي على دقة الاستجابات. إذا تم تدريب نماذج الذكاء الاصطناعي على التعامل مع أنماط لغوية متنوعة، فإن ذلك قد يحسن من فهمها للنية وراء المدخلات، مما يؤدي إلى تقليل الأخطاء. هذا الأمر له تأثير كبير على كيفية تصميم واجهات المستخدم وتفاعل المطورين مع الذكاء الاصطناعي.

خلفية سريعة

تعتبر ظاهرة "هلوسة الذكاء الاصطناعي" تحديًا مستمرًا في تطوير نماذج اللغة الكبيرة مثل ChatGPT. هذه النماذج تم تدريبها على بيانات لغوية منظمة، مما يجعلها عرضة لسوء الفهم عندما تتلقى مدخلات غير متوقعة أو غير مهذبة. تسعى الأبحاث الحالية إلى تحسين هذه النماذج لتكون أكثر قدرة على التعامل مع تنوع أساليب التواصل البشري.

المصدر: الرابط الأصلي