ضرورة ضمان السلامة في جميع مستويات الذكاء الاصطناعي الفيزيائي

تشير سلامة الذكاء الاصطناعي الفيزيائي إلى ضرورة إثبات أن الآلات المدفوعة بالذكاء الاصطناعي، مثل المركبات المستقلة والروبوتات البشرية والروبوتات الصناعية، تتصرف بأمان عند اتخاذ قرارات تؤدي إلى أفعال فعلية. يتطلب ذلك ضمان السلامة عبر جميع الطبقات، بما في ذلك الأجهزة والبرمجيات وسلوك الذكاء الاصطناعي وبيئة التشغيل ودورة النشر، وليس مجرد فحص لمرة واحدة قبل النشر.

لماذا تعتبر السلامة مفتاح توسيع نطاق الذكاء الاصطناعي الفيزيائي؟

بعد سنوات من الاختبارات، تستمر المركبات المستقلة في التوسع تجارياً. تطلب هذا التقدم من المطورين إثبات كيفية معالجة الأنظمة الآلية للمخاطر المحتملة، سواء كانت تتعلق بالأجهزة أو البرمجيات أو المخاطر الخاصة بالذكاء الاصطناعي.

تقترب الروبوتات من نقطة تحول مماثلة حيث تدخل الآلات المستقلة إلى المصانع والمخازن وغيرها من البيئات المشتركة مع البشر.

يحتاج المصنعون والجهات التنظيمية وشركات التأمين وفرق السلامة في أماكن العمل إلى أدلة تثبت أن الأجهزة والبرمجيات وسلوك الذكاء الاصطناعي وبيئات التشغيل يمكن أن تعمل معًا بأمان دون تدخل بشري.

لماذا يحتاج الذكاء الاصطناعي الفيزيائي إلى نموذج سلامة جديد؟

تحدد أربعة تحولات معايير السلامة الجديدة:

• البيئات الديناميكية تتطلب سلامة واعية للسياق. لا يمكن التحكم في الطرق والمصانع والمخازن بالكامل من خلال مناطق ثابتة أو حواجز مادية. يجب أن تدرك الأنظمة المستقلة الظروف المتغيرة، وتتكيف مع سلوكها، وتصل إلى حالة آمنة عند حدوث شيء غير متوقع.
• سلوك الذكاء الاصطناعي يحتاج إلى ضمان خاص به. يجب أن تتضمن الاختبارات تقييم برمجيات الذكاء الاصطناعي جنبًا إلى جنب مع السلامة الوظيفية التقليدية، باستخدام حواجز تصميمية ووقت تشغيل ووقت تحقق. بدأت معايير جديدة مثل ISO/IEC TS 22440 في معالجة هذه المخاطر الخاصة بالذكاء الاصطناعي.
• النشر مستمر. تتطور المركبات المستقلة والروبوتات من خلال تحديثات البرمجيات والنماذج، ومهام جديدة، وظروف تشغيل متغيرة. قد تتطلب التغييرات المادية اختبارات سلامة إضافية.
• التحقق على نطاق واسع يتطلب محاكاة وبيانات اصطناعية. يتطلب عدد وتعقيد السيناريوهات المحتملة دمج الاختبارات الواقعية مع المحاكاة وتوليد البيانات الاصطناعية وإعادة بناء السيناريوهات.

تتطلب هذه التحولات معًا أن يتم تطبيق السلامة عبر التصميم والنشر والتحقق، بدءًا من الأجهزة الأساسية وصولاً إلى سلوك الذكاء الاصطناعي وبيئة التشغيل.

ما هي أساسيات السلامة التي بنتها NVIDIA للذكاء الاصطناعي الفيزيائي؟

تتطلب سلامة الذكاء الاصطناعي الفيزيائي هندسة متخصصة وبيانات وعمليات والتحقق، وهو ما لا يمكن أن تعيد إنتاجه العديد من الشركات بمفردها. تعتمد قاعدة السلامة في NVIDIA على أكثر من عقد من التطوير في سلامة المركبات المستقلة، مما يبني خبرة في السلامة الوظيفية، ودمج المستشعرات، وضمان سلوك الذكاء الاصطناعي، ورؤية الذكاء الاصطناعي، والمحاكاة والتحقق في العالم الحقيقي.

NVIDIA Halos هو النظام الوحيد المتكامل للسلامة للذكاء الاصطناعي الفيزيائي، مما يساعد المطورين على ضمان السلامة عبر كل طبقة من التصميم والتحقق والنشر. تُشارك المبادئ عبر المركبات المستقلة والروبوتات، بينما تظل المنصات والمعايير والأدلة محددة لكل مجال.

تتصل هذه العناصر معًا لتربط تطوير الذكاء الاصطناعي القائم على السحابة والمحاكاة مع النشر داخل المركبات، بحيث تظل أدلة السلامة قابلة للتتبع عبر دورة حياة المركبة.

من يبني باستخدام نظام سلامة NVIDIA Halos؟

يربط نظام NVIDIA Halos الشركات التي تبني وتدمج وتقيّم وتطبق حلول الذكاء الاصطناعي الفيزيائي، بما في ذلك مطوري المنتجات ومقدمي البرمجيات والأنظمة المدمجة وشركات المستشعرات والدوائر المتكاملة.

في المركبات المستقلة، تعمل شركات مثل Geely وIsuzu وNissan وEinride على تطوير مركبات جاهزة للمستوى 4 على منصة NVIDIA Hyperion، مدعومة بنظام Halos OS.

تستخدم شركات مثل Uber وGrab وLyft أيضًا Hyperion لتوسيع تطوير ونشر سيارات الأجرة الروبوتية.

كيف يتم تقييم NVIDIA Halos بشكل مستقل؟

بالنسبة للمركبات المستقلة، حصلت NVIDIA على شهادة TÜV SÜD لعملية دورة حياة المنتج البرمجي الخاصة بها وDriveOS 6.0 وفقًا لمعيار ISO 26262 ASIL D. كما أجرت TÜV Rheinland تقييم سلامة مستقل لنظام NVIDIA DRIVE AV.

بالنسبة للروبوتات، تقوم TÜV Rheinland بفحص NVIDIA IGX Thor وHalos OS وHoloscan Sensor Bridge للتحقق من جاهزيتها لشهادة السلامة الوظيفية.

ستبني الشركات التي توسع نطاق الذكاء الاصطناعي الفيزيائي أنظمة يمكن تقييمها وشهادتها ونشرها والثقة بها في العالم الحقيقي. إن تصميم السلامة الوظيفية من البداية هو ما يميز النموذج الأولي عن الحل القابل للتوسع.

رأي بوابة الذكاء الاصطناعي

تُظهر التطورات في مجال الذكاء الاصطناعي الفيزيائي أهمية السلامة كعنصر أساسي في توسيع نطاق هذه التقنيات. إن التركيز على ضمان السلامة عبر جميع الطبقات يعكس التزام الشركات بتقديم حلول موثوقة. كيف ترى دور السلامة في مستقبل الذكاء الاصطناعي الفيزيائي؟