قامت شركة ميتا بإصدار نسخة جديدة ومحسنة من نموذجها لتوليد التعليمات البرمجية Code Llama 70B. يمكن لهذه النسخة المُحدّثة كتابة التعليمات البرمجية بلغات برمجة متنوعة مثل Python و ++C و Java و PHP، وذلك استنادًا إلى المطالبات اللغوية الطبيعية أو مقتطفات التعليمات البرمجية الموجودة.
يعتبر Code Llama 70B واحدًا من أبرز نماذج الذكاء الاصطناعي المتاحة حاليًا لتوليد التعليمات البرمجية المفتوحة المصدر، وهو يعتبر المعيار الجديد في مجال توليد التعليمات البرمجية.
كانت قدرة توليد التعليمات البرمجية تحظى بأهمية كبيرة بالنسبة لعلماء الحاسوب، حيث تعد واحدة من أهدافهم الطويلة الأمد، نظرًا لقدرتها على زيادة كفاءة تطوير البرمجيات وتسهيلها وتعزيز إبداعها.
وتقدم نماذج لتوليد التعليمات البرمجية، مثل Code Llama 70B، إمكانية الكتابة أو التعديل على التعليمات البرمجية الحالية وتحسينها باستخدام بعض الأوامر البسيطة، أو ترجمة التعليمات البرمجية من لغة إلى أخرى بسهولة.
إن إنشاء التعليمات البرمجية ليس بالأمر السهل، حيث تكون التعليمات البرمجية محددة وصارمة، بخلاف اللغة الطبيعية التي تكون عادةً غير محددة ومرنة.
وتلتزم التعليمات البرمجية بقواعد وصياغة صارمة بهدف توليد النتائج والسلوك المرغوب فيه، وغالباً ما تكون التعليمات البرمجية معقدة وطويلة، مما يستدعي فهمها وكتابتها في سياق منطقي.
تتطلب عملية إنشاء نماذج لتوليد التعليمات البرمجية الكثير من البيانات والقدرة الحاسوبية والذكاء لمواجهة هذه التحديات، وهنا يأتي الدور الهام للنموذج الجديد الميتا Code Llama 70B.
يعتبر Code Llama 70B نموذجًا لغويًا كبيرًا ومتطورًا، حيث تم تدريبه على 500 مليار رمز مميز يتعلق بالتعليمات البرمجية والبيانات المتعلقة بها.
يتمتع نموذج ميتا الجديد بشاشة كبيرة تحتوي على 100000 حرف خاص، مما يسمح له بمعالجة وإنشاء تعليمات برمجية طويلة ومعقدة.
يعتمد Code Llama 70B على نسخة كبيرة من نموذج Llama 2 للأغراض العامة الذي يحتوي على 175 مليار معلمة.
تعتبر Code Llama 70B إصدارًا خاصًا من Llama 2، حيث تم تعديله بدقة لتوليد التعليمات البرمجية باستخدام تقنية تُعرَف بالاهتمام الذاتي. تمكنه هذه التقنية من معرفة العلاقات والتبعيات بين أجزاء مختلفة من التعليمات البرمجية.
Code Llama 70B يحتوي على العديد من المميزات، أهمها CodeLlama-70B-Instruct، وهي ميزة تمكّن النموذج من فهم التعليمات باللغة الطبيعية وتوليد التعليمات البرمجية وفقًا لذلك.
وحققت هذه الخاصية تصنيفاً بمقدار 67.8 نقطة على مقياس “HumanEval”، وهو مجموعة بيانات قياسية تحتوي على 164 مشكلة برمجية تقوم بفحص الصحة الوظيفية والمنطقية لنماذج إنتاج التعليمات البرمجية.
تتجاوز هذه النتيجة النتائج السابقة للنماذج المفتوحة المصدر الفضلى مثل CodeGen-16B-Mono و StarCoder ويمكن أن تتم مقارنتها مع نتائج النماذج المغلقة مثل GPT-4 (بمعدل 68.2 نقطة) و Gemini Pro (بمعدل 69.4 نقطة).
تتيح ميزة CodeLlama-70B-Instruct القدرة على التعامل مع مجموعة متنوعة من المهام، مثل تنظيم البيانات والبحث عنها وتصنيفها ومعالجتها، بالإضافة إلى تنفيذ الخوارزميات مثل البحث الثنائي والفيبوناتشي.
يتمكن الباحثون والمستخدمون التجاريون من تحميل Code Llama 70B مجانًا واستخدامه وتعديله.
وتقدم ميتا أيضاً مواد وبرامج تعليمية حول كيفية استخدام النموذج وتعديله لأغراض ولغات متنوعة.