قامت إنفيديا بإطلاق نسخة تجريبية مبكرة من تطبيق Chat with RTX، والذي يمكنك من تشغيل روبوت دردشة ذكاء اصطناعي شخصي عبر جهاز الكمبيوتر الخاص بك.
يمكنك تزويد الروبوت المحادث بمقاطع فيديو من يوتيوب ووثائقك لإنشاء ملخصات والحصول على إجابات ذات صلة استنادًا إلى بياناتك.
تقوم إنفيديا الحديثة بمحاولة تحويل الذكاء الاصطناعي المتواجد في وحدات معالجة الرسومات إلى أداة أساسية يمكن للجميع استخدامها.
يتم تشغيل روبوت الدردشة محليًا من خلال جهاز الكمبيوتر الخاص بك، وكل ما تحتاجه هو وحدة معالجة رسومات من سلسلة GeForce RTX 30 أو GeForce RTX 40 بحد أدنى 8 جيجابايت من ذاكرة الوصول العشوائي للفيديو VRAM.
تتيح منصة Chat with RTX استخدام قدرات الذكاء الاصطناعي المتقدمة مباشرة عبر أجهزتها، مما يسهل الوصول إلى تقنيات RAG وبرنامج TensorRT-LLM.
في نفس الوقت، لا يتطلب التطبيق استهلاكًا كبيرًا لموارد مركز البيانات ويسهل تعزيز الخصوصية المحلية، مما يسمح للمستخدمين بعدم القلق بشأن محادثات الذكاء الاصطناعي.
أصبحت الرجال الآليون الدردشة جزءًا أساسيًا من تفاعلات الملايين على مستوى العالم، وتعتمد عادة على خوادم السحابة المجهزة بوحدات معالجة الرسومات من إنفيديا.
تغير دردشة RTX هذا الوضع من خلال السماح للمستخدمين بالاستفادة من ميزات الذكاء الاصطناعي التوليدي على مستوى محلي، عن طريق استخدام قوة معالجة وحدات معالجة الرسومات.
قالت إنفيديا: “يعتبر Chat with RTX أكثر من مجرد روبوت دردشة، حيث يعتبر شريكاً شخصياً للذكاء الاصطناعي يمكن للمستخدمين تخصيصه بمحتواهم الخاص. يمكن للمستخدمين تعزيز تجربتهم واستفادة من فوائد الذكاء الاصطناعي بسرعة وخصوصية فائقة عن طريق استخدام قدرات الحواسب المحلية التي تعمل بنظام ويندوز”.
يستخدم تطبيق Chat with RTX تكنولوجيا RAG وبرنامج TensorRT-LLM وتسريع Nvidia RTX لتبسيط الردود السريعة ذات الصلة بالسياق باستخدام مجموعات البيانات المحلية.
يمكن للمستخدمين ربط التطبيق بالملفات المحلية على أجهزتهم الكمبيوتر وتحويلها إلى مجموعة بيانات تستخدم في النماذج اللغوية الكبيرة المفتوحة المصدر، مثل Mistral أو Llama 2.
يمكن للمستخدمين كتابة استفسارات بلغتهم الطبيعية، ويمكن لـ Chat with RTX فحص الإجابة بسرعة وتقديمها مع السياق المناسب، مثل طلب توصية لمطعم أو أي معلومات شخصية، دون الحاجة إلى البحث في الملفات المتعددة.
يتميز التطبيق بدعمه لعدة صيغ ملفات مختلفة، مثل txt و pdf و doc و docx و xml، مما يجعله مريحاً وسهل الاستخدام بشكل كبير.
أوضحت شركة إنفيديا أن ميزة دردشة مع RTX تكمن في إمكانية تضمين معلومات من مصادر الوسائط المتعددة، وخاصة مقاطع الفيديو وقوائم التشغيل على موقع يوتيوب.
يمكن للأفراد دمج المعرفة المستمدة من محتوى الفيديو في روبوت الدردشة، مما يسمح بتقديم الاستعلامات ذات السياق المناسب. وبذلك، سيكون بإمكان الأفراد البحث عن توصيات السفر استنادًا إلى مقاطع الفيديو للمؤثرين المفضلين أو الحصول على محتوى تعليمي سريع وإرشادات من مصادر تعليمية.
تشمل إمكانيات معالجة البيانات المحلية في التطبيق القدرة على الحصول على نتائج سريعة دون الحاجة لإرسال بيانات المستخدم إلى خوادم خارجية.
يسمح تطبيق Chat with RTX للمستخدمين بالتعامل مع المعلومات الحساسة دون مشاركتها مع أي جهات خارجية أو الحاجة إلى الاتصال بالإنترنت، عن طريق الاستغناء عن الخدمات السحابية المطلوبة.