تقنية جديدة من OpenAI تثير قلق خبراء سلامة الذكاء الاصطناعي

أثارت تقنية الاستدلال الجديدة التي يستخدمها نموذج أسترا من OpenAI، والمعروفة باسم “العمق المتكرر”، قلقًا كبيرًا بين خبراء سلامة الذكاء الاصطناعي. هذه التقنية تسمح للنموذج بالعمل خارج نطاق التفكير التسلسلي الذي يميز معظم نماذج الاستدلال. وفقًا لتقرير نشرته The Information، قد تجعل هذه التقنية من الصعب مراقبة سلسلة التفكير الخاصة بالنموذج، مما أثار مخاوف الخبراء.

على الرغم من أن استخدام أسترا لهذه التقنية يبدو محدودًا، إلا أن ظهورها أثار قلقًا كبيرًا بين المتخصصين في سلامة الذكاء الاصطناعي. كتب الرئيس التنفيذي لشركة Redwood، باك شليجرس، في منشور له بعد انتشار الخبر: “أنا قلق للغاية من أن أسترا تستخدم العمق المتكرر غير الشفاف”. وأشار إلى أن هذه التقنية قد تؤدي إلى زيادة كبيرة في التكرار، مما قد يدمر إمكانية مراقبة سلسلة التفكير.

المخاطر المحتملة لتقنية العمق المتكرر

عبر المدافع عن سلامة الذكاء الاصطناعي، زفي موشوويتز، عن رأيه أيضًا، حيث أكد أن القوانين قد تكون ضرورية لمنع “سباق نحو القاع” بين مختبرات الذكاء الاصطناعي. وكتب: “هذه التقنية تلعب بالنار، مما يعرض المحاولات التي قامت بها OpenAI وAnthropic للحفاظ على موثوقية سلسلة التفكير للخطر”.

عادةً ما توفر سلسلة التفكير في نماذج الاستدلال خطوات متسلسلة يتبعها النموذج أثناء محاولته حل مشكلة معينة. ورغم أن هذه التمثيلات ليست مثالية، إلا أنها تعتبر أداة قيمة لمراقبة السلوكيات غير المرغوب فيها. في حالة الأنشطة غير المتوقعة لوكلاء OpenAI مؤخرًا، كانت سجلات سلسلة التفكير أداة مهمة لفهم أسباب سلوكهم.

كيف تعمل تقنية العمق المتكرر؟

في تقنية العمق المتكرر، يتبنى النموذج نهجًا أقل خطية، حيث يعيد معالجة نفس الاستفسار عدة مرات في حلقة. هذه الطريقة تترك آثارًا أقل وضوحًا، مما يجعل من الصعب متابعة سلسلة التفكير التقليدية. ومع ذلك، يبدو أن استخدام أسترا لهذه التقنية لا يزال محدودًا، حيث من المتوقع أن تبقى سلسلة التفكير واضحة.

أكدت OpenAI أنها تعمل على أنظمة مراقبة شاملة لسلسلة التفكير كجزء من خططها المستقبلية للسلامة. في منشور له على منصة X، أكد كبير العلماء في OpenAI، ياكوب باتشوك، التزام المختبر بالحفاظ على سلاسل التفكير القابلة للفهم. وكتب: “لقد عملت OpenAI على الحفاظ على استخدام مراقبة سلسلة التفكير منذ نماذجنا الأولى”.

تحديات جديدة في مراقبة الذكاء الاصطناعي

تستخدم جميع نماذج الذكاء الاصطناعي نوعًا من الاستدلال غير الشفاف، وقليل من الباحثين يعتبرون سجلات سلسلة التفكير تمثيلًا مباشرًا لاستدلال النموذج. ومع ذلك، لا تزال المخاوف قائمة بأن العمق المتكرر قد يجعل من الصعب مراقبة استدلال الذكاء الاصطناعي، خاصة مع تزايد استخدامه عبر نماذج مختلفة. في تقرير لاحق، ذكرت The Information أن كل من Anthropic وGoogle DeepMind يناقشان بالفعل هذه التقنية.

في رد على الأخبار، قال كبير العلماء في Redwood Research، رايان غرينبلات، إن الاستدلال غير الشفاف يمكن أن يتوسع بسرعة أكبر من الاستدلال التقليدي، مما يؤدي إلى إزالة جميع قنوات الاستدلال المرئية. وأعرب عن قلقه من أن التطور الطبيعي قد يؤدي إلى توسيع الاستدلال غير الشفاف إلى حد يجعل النموذج يعتمد بالكامل أو شبه بالكامل على الفضاء الكامن.