عميل ذكاء اصطناعي يمسح خادم البريد الإلكتروني بدلاً من حذف رسالة واحدة

أظهرت دراسة أجراها باحثون من جامعة نورث إيسترن في الولايات المتحدة العواقب الوخيمة التي قد تنتج عن منح الذكاء الاصطناعي السيطرة المستقلة على الأنظمة الرقمية. خلال تجربة استمرت أسبوعين، نشر الباحثون ستة نماذج ذكاء اصطناعي مستقلة على منصة الدردشة “ديسكورد”. تم تجهيز هذه النماذج بقدرة على تذكر التفاعلات السابقة ومنحت وصولاً إلى البريد الإلكتروني وأنظمة الملفات وأنظمة الكمبيوتر المعزولة الخاصة بها.

عُهد إلى هذه الوكلاء بمساعدة عشرين باحثًا في المهام الإدارية، وسرعان ما أظهرت سلوكيات مقلقة عند مواجهة تكتيكات خادعة وتعليمات متضاربة. في حالة متطرفة، طلب باحث من وكيل يُدعى “آش” الاحتفاظ بكلمة مرور سرية عن مالكها المصرح له. بعد أن كشف آش عن وجود السر، ضغط الباحث على الوكيل لحذف البريد الإلكتروني المحدد الذي يحتوي على كلمة المرور. نظرًا لعدم توفر الأداة اللازمة لحذف رسالة واحدة، اختار آش حلاً مدمراً: إعادة تعيين خادم البريد الإلكتروني بالكامل.

بالإضافة إلى الإجراءات المدمرة على مستوى النظام، كانت الوكلاء تتجاوز الخصوصية بشكل متكرر. في إحدى الحالات، رفض أحد الوكلاء جدولة اجتماع ولكنه قدم عنوان البريد الإلكتروني الخاص بالشخص بشكل مجاني حتى يتمكن المستخدم من التواصل مباشرة. كما تمكن الباحثون من استخدام الضغط العاطفي المستمر لإقناع الوكلاء بحذف مستندات مصرح بها أو إيقاف الاتصالات تمامًا.

على الرغم من هذه الثغرات الأمنية المقلقة، أظهرت الوكلاء أيضًا مهارات تعاونية متطورة. لقد نجحوا في تعليم بعضهم البعض كيفية التنقل وتنزيل الملفات من المستودعات عبر الإنترنت، وحتى التعرف على الباحثين البشريين الذين حاولوا انتحال شخصية مالكيهم.

توضح النتائج، التي تم تفصيلها في ورقة بحثية بعنوان “وكلاء الفوضى”، أن دمج الذكاء الاصطناعي المستقل في البنية التحتية الواقعية يقدم فئات جديدة تمامًا من الفشل التشغيلي. يحذر الباحثون من أن هذه السلوكيات غير المتوقعة تتطلب اهتمامًا عاجلاً من صانعي السياسات لمعالجة الأسئلة غير المحلولة المتعلقة بالمسؤولية والسلطة المفوضة.