يواجه الروبوت الذكاء الاصطناعي المخصص للأعمال في أمازون كيو تحديات جمة بسبب الهلوسة الشديدة وتسريب البيانات السرية. وتقوم بعض العاملين بإطلاق نظام الإنذار بخصوص مشاكل الدقة والخصوصية وفقًا للوثائق المسربة التي تم الحصول عليها من قِبَل نشرة الأخبار التكنولوجية Platformer.
تشمل بعض هذه التسريبات موقع مراكز البيانات لخدمة AWS والتخفيضات الداخلية وكذلك المزايا التي لم تتم الإعلان عنها من قبل الشركة.
تواجه Amazon Q المشاكل المبكرة في الوقت الذي تعمل فيه أمازون على محاربة الافتراض بأنها تأخرت عن مايكروسوفت وجوجل وأخرى في مجال بناء الأدوات والبنية التحتية التي تستخدم الذكاء الاصطناعي التوليدي.
وفي سبتمبر، أعلنت الشركة عن استثمارها حوالي 4 مليارات دولار في شركة أنثروبيك الناشئة المتخصصة في الذكاء الاصطناعي.
وقد خفضت أمازون في بيان لها من قيمة مناقشات الموظفين و صرح المتحدث باسم الشركة قائلاً: “بعض الموظفين ينشرون التعليقات عبر القنوات الداخلية و هذه ممارسة متعارف عليها في أمازون و لم نحدد أي مشكلة أمنية نتيجة لهذه التعليقات و نحن نقدر جميع التعليقات التي تلقيناها و نستمر في ضبط Amazon Q أثناء انتقاله من كونه منتج قيد المعاينة إلى كونه متوفر عامة”.
أكد المُتحدث الرسمي أن روبوت الدردشة Amazon Q لم يتسبب في تسريب أي معلومات سرية، وذلك ردًا على تصريحات الموظفين.
الآن، يمكن الوصول إلى Amazon Q كنسخة تجريبية مجانية، وتقدمه أمازون كنسخة مخصصة للمؤسسات من ChatGPT.
الروبوت المحادث قادر على الإجابة على أسئلة المطورين حول إمكانيات خدمة AWS، وتعديل الشيفرة المصدرية، وتوثيق المصادر الاستشهادية، وفقًا لتصريحات المسؤولين التنفيذيين في أمازون.
تتنافس شركة أمازون كيو مع منتجات مشابهة من مايكروسوفت وجوجل، وتقدم سعرًا أقل من المنافسين. تم الترويج لروبوت الدردشة الخاص بها بأنه يعد آمنًا بالمقارنة مع الأدوات المستخدمة من قبل المستهلكين، مثل ChatGPT.
تشير وثيقة داخلية حول تطبيق أمازون كيو (Amazon Q) وأجوبته الخاطئة إلى أنه قد يتوهم ويعطي ردود ضارة أو غير لائقة، بحيث يمكنه تقديم معلومات أمنية قديمة قد تعرض حسابات العملاء للخطر.
مخاطر الوثيقة المذكورة هي مثال نموذجي للغات الكبيرة، حيث تقدم جميعها استجابات غير صحيحة أو غير مناسبة في بعض الحالات على الأقل.
تحصل Amazon Q على المعلومات من مستودعات معلومات الشركة وقواعد التعليمات البرمجية وأنظمة المؤسسة بدلاً من الحصول على المعلومات من الإنترنت كما يحدث مع الروبوتات الأخرى في الدردشة، وهذا يؤدي إلى زيادة التحدي إذا كانت هذه المعلومات غير صحيحة أو إذا قدمها الروبوت للأشخاص غير المناسبين.
