ChatRTX هو تطبيق تجريبي يتيح لك تخصيص نموذج لغة GPT كبير (LLM) متصل بالمحتوى الخاص بك — المستندات والملاحظات والصور. من خلال الاستفادة من الجيل المعزز للاسترجاع (RAG)، وتسريع TensorRT-LLM، وRTX، يمكنك الاستعلام عن برنامج chatbot مخصص للحصول بسرعة على الإجابات ذات الصلة بالسياق. يتيح لك هذا التطبيق أيضًا تقديم الاستعلام من خلال صوتك. نظرًا لأن كل ذلك يعمل محليًا على جهاز الكمبيوتر الشخصي الذي يعمل بنظام Windows RTX، فستحصل على نتائج سريعة وآمنة. يدعم ChatRTX تنسيقات الملفات المختلفة، بما في ذلك text وpdf وdoc/docx وxml وpng وjpg وbmp. ما عليك سوى توجيه التطبيق إلى المجلد الذي يحتوي على ملفاتك وسيقوم بتحميلها إلى المكتبة في غضون ثوانٍ.
نماذج الذكاء الاصطناعي المدعومة في هذا التطبيق:
يتضمن خط الأنابيب نماذج الذكاء الاصطناعي المذكورة أعلاه، وTensorRT-LLM، وLlamaIndex، ومكتبة بحث المتجهات FAISS. في نموذج التطبيق هنا، لدينا مجموعة بيانات تتكون من مقالات حديثة مصدرها NVIDIA Gefore News.
توليد الاسترجاع المعزز (RAG) لنماذج اللغات الكبيرة (LLMs) الذي يسعى إلى تعزيز دقة التنبؤ من خلال ربط LLM ببياناتك أثناء الاستدلال. يبني هذا النهج موجهًا شاملاً غنيًا بالسياق والبيانات التاريخية والمعرفة الحديثة أو ذات الصلة.
ChatRTX_APIs: تسمح واجهات برمجة تطبيقات ChatRTX للمطورين بدمج تطبيقاتهم بسلاسة مع محرك الاستدلال المدعوم TensorRT-LLM والاستفادة من نماذج الذكاء الاصطناعي المتنوعة التي يدعمها ChatRTX. يمكّن هذا التكامل المطورين من دمج استدلال الذكاء الاصطناعي المتقدم وميزات RAG في تطبيقاتهم. تعمل واجهات برمجة التطبيقات هذه كأساس لتطبيق ChatRTX. مزيد من التفاصيل في دليل ChatRTX_APIs.
ChatRTX_App: ChatRTX_App هو تطبيق تجريبي تم إنشاؤه فوق واجهات برمجة تطبيقات ChatRTX باستخدام حاوية الإلكترون. تم إنشاء واجهة المستخدم في React باستخدام مكتبات واجهة المستخدم المادية. مزيد من التفاصيل حول كيفية إنشاء واجهة المستخدم موجودة في دليل ChatRTX_App.
سيقوم هذا المشروع بتنزيل وتثبيت مشاريع برامج إضافية مفتوحة المصدر تابعة لجهات خارجية. قم بمراجعة شروط ترخيص هذه المشاريع مفتوحة المصدر قبل الاستخدام.
