quick start guide to llms

دليل البدء السريع لنماذج اللغات الكبيرة - الإصدار الثاني

احصل على نسختك اليوم ويرجى ترك تقييم/مراجعة لتخبرني برأيك!

مرحبًا بك في مستودع GitHub للحصول على "دليل البدء السريع لنماذج اللغات الكبيرة - الإصدار الثاني" . يحتوي هذا المستودع على مقتطفات التعليمات البرمجية والدفاتر المستخدمة في الكتاب، مما يوضح التطبيقات المتنوعة والتقنيات المتقدمة في العمل مع نماذج المحولات ونماذج اللغات الكبيرة (LLMs). شاهد الكود الخاص بالإصدار الأول هنا

هيكل المستودع

الدلائل

• notebooks : تحتوي على دفاتر Jupyter لكل فصل في الكتاب.
• data : تحتوي على مجموعات البيانات المستخدمة في دفاتر الملاحظات.
• images : تحتوي على الصور والرسوم البيانية المستخدمة في الدفاتر.

دفاتر الملاحظات

فيما يلي قائمة بالدفاتر الموجودة في دليل notebooks ، مرتبة حسب فصول الكتاب.

الجزء الأول - مقدمة لنماذج اللغات الكبيرة

• الفصل الثاني: البحث الدلالي مع LLMs

  • 02_semantic_search.ipynb : مقدمة للبحث الدلالي باستخدام OpenAI والنماذج مفتوحة المصدر.

• الفصل الثالث: الخطوات الأولى للهندسة السريعة

  • 03_prompt_engineering.ipynb : دليل للهندسة السريعة الفعالة لماجستير إدارة الأعمال المتوافق مع التعليمات.

• الفصل الرابع: النظام البيئي للذكاء الاصطناعي: تجميع القطع معًا

  • 04_rag_retrieval.ipynb : بناء خط أنابيب توليد الاسترجاع المعزز (RAG).
  • 04_agent.ipynb : إنشاء وكيل للذكاء الاصطناعي باستخدام LLMs وأدوات أخرى.

الجزء الثاني - الحصول على أقصى استفادة من LLMs

• الفصل الخامس: تحسين ماجستير إدارة الأعمال من خلال الضبط الدقيق المخصص

  • 05_bert_app_review.ipynb : الضبط الدقيق لنموذج BERT لتصنيف مراجعة التطبيق.
  • 05_openai_app_review_fine_tuning.ipynb : الضبط الدقيق لنماذج OpenAI لتصنيف مراجعة التطبيقات.

• الفصل السادس: الهندسة السريعة المتقدمة

  • 06_adv_prompt_engineering.ipynb : التقنيات المتقدمة في الهندسة السريعة، بما في ذلك التحقق من صحة المخرجات والتعلم الدلالي في لقطات قليلة.

• الفصل السابع: تخصيص التضمينات والبنى النموذجية

  • 07_recommendation_engine.ipynb : بناء محرك توصيات باستخدام LLMs وعناصر التضمين المخصصة والمضبوطة بدقة.

الجزء الثالث - الاستخدام المتقدم لماجستير القانون

• الفصل التاسع: تجاوز نماذج الأساس

  • 09_constructing_a_vqa_system.ipynb : دليل خطوة بخطوة لإنشاء نظام للإجابة على الأسئلة المرئية (VQA) باستخدام GPT-2 ومحول الرؤية.
  • 09_using_our_vqa.ipynb : استخدام نظام VQA المدمج في دفتر الملاحظات السابق.
  • 09_flan_t5_rl.ipynb : استخدام التعلم المعزز (RL) لتحسين مخرجات نموذج FLAN-T5.

• الفصل العاشر: الضبط المتقدم مفتوح المصدر LLM

  • 10_SAWYER_LLAMA_SFT.ipynb : الضبط الدقيق لنموذج Llama-3 لإنشاء روبوت SAWYER.
  • 10_SAWYER_Reward_Model.ipynb : تدريب نموذج مكافأة من التفضيلات البشرية لروبوت SAWYER.
  • 10_SAWYER_RLF.ipynb : تطبيق التعلم المعزز من الملاحظات البشرية (RLHF) لمحاذاة روبوت SAWYER.
  • 10_SAWYER_USE_SAWYER.ipynb : استخدام روبوت SAWYER.
  • 10_anime_category_classification_model_freezing.ipynb : الضبط الدقيق لنموذج BERT لتصنيف فئات الأنمي، ومقارنة تقنيات تجميد الطبقات.
  • 10_latex_gpt2.ipynb : ضبط GPT-2 لإنشاء صيغ LaTeX.
  • 10_optimizing_fine_tuning.ipynb : أفضل الممارسات لتحسين الضبط الدقيق لنماذج المحولات.

• الفصل 11: نقل LLMs إلى الإنتاج

  • 11_distillation_example_1.ipynb : استكشاف تقنيات التقطير المعرفية لنماذج المحولات.
  • 11_distillation_example_2.ipynb : طرق وتطبيقات التقطير المتقدمة.
  • 11_llama_quantization.ipynb : قياس نماذج اللاما للنشر الفعال.

• الفصل الثاني عشر: تقييم ماجستير إدارة الأعمال

  • 12_llm_calibration.ipynb : تقنيات معايرة مخرجات LLM.
  • 12_llm_gen_eval.ipynb : طرق تقييم القدرات التوليدية لدرجة الماجستير في القانون.
  • 12_cluster.ipynb : تقنيات التجميع لتحليل مخرجات LLM.
  • Probing - يوجد أكثر من اثنتي عشرة دفاتر ملاحظات لـ Probing، لذا سأشارك بعضًا منها فقط هنا:
    • Llama-3 8B قم بالإرشاد باستخدام السؤال "من هو {NAME}"
    • بيرت-حالة كبيرة لا يوجد موجه
    • Mistral-7B-Instruct-v0.3 مع المطالبة "من هو {NAME}"

كيفية الاستخدام

لاستخدام هذا المستودع:

1. انسخ المستودع إلى جهازك المحلي:

git clone https://github.com/yourusername/quick-start-llms.git

2. انتقل إلى دليل دفاتر الملاحظات وافتح دفتر Jupyter الذي تختاره:

 cd quick-start-llms

3. تثبيت المكتبات اللازمة:

pip install -r requirements.txt

ملاحظة: قد تتطلب بعض دفاتر الملاحظات مجموعات بيانات محددة، والتي يمكن العثور عليها في دليل البيانات.

المساهمة

المساهمات هي موضع ترحيب! إذا كان لديك أي إضافات أو تصحيحات أو تحسينات، فلا تتردد في تقديم طلب سحب.

تنصل

هذا المستودع مخصص للأغراض التعليمية ويهدف إلى مرافقة كتاب "دليل البدء السريع لنماذج اللغات الكبيرة - الإصدار الثاني". يرجى الرجوع إلى الكتاب للحصول على شرح ومناقشات متعمقة للموضوعات التي تناولتها الدفاتر.

المزيد من سنان

1. تحقق من ساعات عمل الذكاء الاصطناعي في نشرة Sinan الإخبارية لمزيد من محتوى الذكاء الاصطناعي/LLM!
2. سنان لديه بودكاست يسمى "الذكاء العملي" حيث يتحدث عن الأحدث والأفضل في مجال الذكاء الاصطناعي!
3. اتبع قائمة التشغيل الخاصة ببدء استخدام البيانات وLLMs وChatGPT على O'Reilly للحصول على قائمة منسقة لأعمال سنان!