جدول المحتويات
بينما تزداد نماذج الذكاء الاصطناعي حجمًا وتكلفة وتعقيدًا، يسير GuppyLM في الاتجاه المعاكس – عن قصد. هذا المشروع المفتوح المصدر هو نموذج لغة يحتوي على حوالي 8.7 مليون معلمة، وهو عدد أقل بكثير من النماذج الرائدة الحديثة. يحدد Guppy نفسه كسمكة تعيش في حوض سمك، حيث لا يعرف سوى الحياة في هذا الحوض. الهدف ليس المنافسة مع ChatGPT أو النماذج الكبيرة الأخرى، بل إظهار أن نموذج اللغة لا يجب أن يكون غامضًا، وأن تدريب واحد لا يتطلب بالضرورة معرفة متخصصة.
تدريب GuppyLM
تم تدريب GuppyLM على 60,000 محادثة اصطناعية. على الرغم من أن محتوى النموذج محدود للغاية، إلا أن ذلك يجعله متسقًا بشكل ملحوظ. يتحدث Guppy بجمل قصيرة وبحروف صغيرة، ولا يفهم المفاهيم المجردة مثل السياسة أو المال أو الهواتف. هذه الشخصية متأصلة في النموذج، مما يجعل Guppy دائمًا ضمن وجهة نظر السمكة. يوفر GitHub أيضًا عرضًا تجريبيًا عبر المتصفح حيث يعمل النموذج محليًا. بدلاً من ذلك، يمكن تشغيل النسخة المدربة مسبقًا عبر Colab أو تشغيلها محليًا باستخدام Python. يمكن للراغبين في التقدم خطوة إضافية تدريب نموذجهم الخاص مباشرة باستخدام دفتر ملاحظات Colab المعد مسبقًا.
عملية التدريب
تتم عملية التدريب ببساطة نسبيًا. يتم تغذية النموذج بعدد كبير من أزواج الأمثلة التي تتكون من مدخلات واستجابات متطابقة. تشمل الأمثلة في نموذج GuppyLM المدرب مسبقًا تحيات، وأسئلة حول الطعام، والماء، والضوء، والنوم، أو معنى الحياة – كل ذلك من منظور سمكة صغيرة. يتعلم النموذج من هذه الأمثلة أي رمز يجب أن يأتي بعد ذلك. ببساطة، الرموز هي وحدات نصية صغيرة يتم تقسيم الكلمات إليها. خلال كل خطوة تدريب، يقارن النموذج توقعاته مع الاستجابة المرغوبة ويعدل أوزانه الداخلية وفقًا لذلك. بهذه الطريقة، يتعلم GuppyLM تدريجيًا كيف يجب أن تتحدث السمكة.
رأي بوابة الذكاء الاصطناعي
يقدم GuppyLM نموذجًا فريدًا لتدريب الذكاء الاصطناعي بطريقة بسيطة وممتعة. يبرز هذا المشروع أهمية إمكانية الوصول إلى تقنيات الذكاء الاصطناعي، مما يتيح للجميع فرصة التعلم والتجربة. هل تعتقد أن مثل هذه النماذج البسيطة يمكن أن تكون بداية لثورة في كيفية تعاملنا مع الذكاء الاصطناعي؟
المصدر: الرابط الأصلي