كشفت شركة مايكروسوفت عن استخدام المتسللين للنماذج اللغوية الكبيرة، مثل ChatGPT، لتعزيز وتحسين هجماتهم الإلكترونية الحالية.
في دراسة نُشرت مؤخرًا، اكتشفت مايكروسوفت محاولات من مجموعات تُدعم من قبل روسيا وكوريا الشمالية وإيران والصين لاستخدام أدوات مثل ChatGPT لاستهداف الأهداف وتحسين النصوص البرمجية والمساعدة في تطوير تقنيات الهندسة الاجتماعية.
قالت شركة مايكروسوفت في منشورة: “تستكشف مجموعات الجرائم الإلكترونية تقنيات الذكاء الاصطناعي المختلفة عند ظهورها وتختبرها، في محاولة لفهم القيمة المحتملة لعملياتها والضوابط الأمنية التي قد تحتاجها للتحايل”.
وتستخدم المجموعة المرتبطة بالمخابرات العسكرية الروسية المسماة سترونتيوم النماذج اللغوية الكبيرة لفهم بروتوكولات الاتصالات عبر الأقمار الصناعية، وتقنيات التصوير الراداري، والمعايير التقنية المحددة.
كانت مجموعة القرصنة المعروفة أيضًا باسم APT28 أو Fancy Bear نشطة خلال الحرب الروسية الأوكرانية وشاركت سابقًا في استهداف حملة هيلاري كلينتون الرئاسية في عام 2016.
تستخدم المجموعة أيضًا نماذج لغوية كبيرة لمساعدتها في برمجة النصوص الأساسية من أجل تحسين أو تأتيم عمليات التقنية، وتشمل هذه المهام معالجة الملفات، واختيار البيانات، واستخدام التعبيرات الشائعة، والمعالجة المتعددة.
تستخدم مجموعة القرصنة الكورية الشمالية المعروفة باسم ثاليوم النماذج اللغوية الكبيرة للبحث عن الثغرات المعلن عنها علنا واستهداف المؤسسات، وتساعد في المهام البرمجية الأساسية، وتصيغ محتوى لحملات الصيد الاحتيالية.
تقول شركة مايكروسوفت إن مجموعة إيرانية تدعى كوريوم تستخدم نماذج لغوية كبيرة لإنشاء رسائل بريد إلكتروني للتصيد الاحتيالي وتعليمات برمجية لتجنب الكشف عنها من قبل برامج مكافحة الفيروسات.
يعتمد المهاجمون الصينيون التابعون للحكومة أيضًا على نماذج لغوية كبيرة لأغراض البحث والبرمجة والترجمة وتحسين أدواتهم الحالية.
كانت هناك مخاوف من استخدام التكنولوجيا الذكية في الهجمات الإلكترونية، خاصة مع ظهور أدوات تساعد في إنشاء رسائل بريد إلكتروني ضارة وأدوات اختراق، مثل WormGPT و FraudGPT.
حذرت وكالة الأمن القومي في الشهر الماضي من استخدام المتسللين نماذج الذكاء الاصطناعي، مثل ChatGPT، لتزييف رسائل التصيد الاحتيالي بشكل مقنع.
حتى الآن، لم تكتشف مايكروسوفت أي هجمات كبيرة باستخدام النماذج اللغوية الكبيرة. يبدو أن استخدام الذكاء الاصطناعي في الهجمات الإلكترونية محدود في الوقت الحالي. وعلى الرغم من ذلك، تحذر مايكروسوفت من حالات الاستخدام المستقبلية، مثل انتحال الهوية الصوتية.
أعلنت شركة مايكروسوفت أن الذكاء الاصطناعي يساعد المهاجمين على تحقيق تطوير أكبر في الهجمات، حيث يمتلك المهاجمون الموارد اللازمة لتنفيذ هذه الهجمات، وقد رصدنا ذلك في أكثر من 300 جهة تهديد نتعقبها، ونحن نستخدم الذكاء الاصطناعي في الحماية والكشف والاستجابة.