كشفت شركة مايكروسوفت عن تصميمها لعدد من المزايا الجديدة في مجال الأمان، والتي يمكن لعملاء خدمة الحوسبة السحابية أزور – Azure استخدامها بسهولة، خاصة الذين لا يمتلكون خبرة في استخدام خدمات الذكاء الاصطناعي التي تم تطويرها.
صرحت سارة بيرد، التي تعمل كمسؤولة منتجات الذكاء الاصطناعي الكبيرة في شركة مايكروسوفت: “تلك الأدوات التي تعتمد على النماذج اللغوية الكبيرة قادرة على اكتشاف النقاط الضعيفة المحتملة، ومراقبة الهلوسات المقبولة، وحظر المطالبات الضارة في الوقت الفعلي لعملاء خدمات Azure AI الذين يعملون مع أي نموذج مستضاف عبر النظام”.
وأوضحت أن هذه الأدوات تساعد في تفادي النزاعات المتعلقة بالذكاء الاصطناعي الاستحضاري ناتجة عن الردود غير المرغوب فيها أو غير المقصودة، مثل الردود التي تحتوي على صور مزيفة واضحة للمشاهير، أو الصور التاريخية الغير دقيقة.
أشارت بيرد إلى إمكانية لمستخدمي Azure في المستقبل الحصول على تقرير حول المستخدمين الذين يحاولون تشغيل مخرجات غير آمنة، مشيرة إلى أن أدوات الأمان ترتبط مباشرة بالنموذج اللغوي الضخم للذكاء الاصطناعي GPT-4، ونماذج شائعة أخرى مثل Llama 2.
وأشارت بيرد إلى أن الشركة تسعى إلى استخدام التكنولوجيا الذكية لتعزيز جودة وأمان برامجها، وخاصة مع زيادة اهتمام العملاء بخدمات أزور للوصول إلى حلول الذكاء الاصطناعي.
