quick start guide to llms

Schnellstartanleitung für große Sprachmodelle – Zweite Ausgabe

Holen Sie sich noch heute Ihr Exemplar und hinterlassen Sie bitte eine Bewertung/Rezension, um mir Ihre Meinung mitzuteilen!

Willkommen im GitHub-Repository für den „Quick Start Guide to Large Language Models – Second Edition“ . Dieses Repository enthält die im Buch verwendeten Codeausschnitte und Notizbücher und demonstriert verschiedene Anwendungen und fortgeschrittene Techniken bei der Arbeit mit Transformer-Modellen und großen Sprachmodellen (LLMs). Sehen Sie sich hier den Code für die Erstausgabe an

Repository-Struktur

Verzeichnisse

• notebooks : Enthält Jupyter-Notizbücher für jedes Kapitel im Buch.
• data : Enthält die in den Notizbüchern verwendeten Datensätze.
• images : Enthält Bilder und Grafiken, die in den Notizbüchern verwendet werden.

Notizbücher

Nachfolgend finden Sie eine Liste der im notebooks enthaltenen Notizbücher, geordnet nach den Kapiteln im Buch.

Teil I – Einführung in große Sprachmodelle

• Kapitel 2: Semantische Suche mit LLMs

  • 02_semantic_search.ipynb : Eine Einführung in die semantische Suche mit OpenAI und Open-Source-Modellen.

• Kapitel 3: Erste Schritte mit Prompt Engineering

  • 03_prompt_engineering.ipynb : Ein Leitfaden für effektives Prompt Engineering für anweisungsorientierte LLMs.

• Kapitel 4: Das KI-Ökosystem: Die Teile zusammenfügen

  • 04_rag_retrieval.ipynb : Aufbau einer RAG-Pipeline (Retrieval-Augmented Generation).
  • 04_agent.ipynb : Erstellen eines KI-Agenten mithilfe von LLMs und anderen Tools.

Teil II – Das Beste aus LLMs herausholen

• Kapitel 5: Optimierung von LLMs mit maßgeschneiderter Feinabstimmung

  • 05_bert_app_review.ipynb : Feinabstimmung eines BERT-Modells für die Klassifizierung von App-Bewertungen.
  • 05_openai_app_review_fine_tuning.ipynb : Feinabstimmung von OpenAI-Modellen für die Klassifizierung von App-Bewertungen.

• Kapitel 6: Fortgeschrittenes Prompt Engineering

  • 06_adv_prompt_engineering.ipynb : Fortgeschrittene Techniken im Prompt Engineering, einschließlich Ausgabevalidierung und semantischem Fear-Shot-Learning.

• Kapitel 7: Anpassen von Einbettungen und Modellarchitekturen

  • 07_recommendation_engine.ipynb : Erstellen einer Empfehlungs-Engine mit benutzerdefinierten, fein abgestimmten LLMs und Einbettungen.

Teil III – Erweiterte LLM-Nutzung

• Kapitel 9: Über Grundlagenmodelle hinausgehen

  • 09_constructing_a_vqa_system.ipynb : Schritt-für-Schritt-Anleitung zum Aufbau eines Visual Question Answering (VQA)-Systems mit GPT-2 und Vision Transformer.
  • 09_using_our_vqa.ipynb : Verwendung des im vorherigen Notebook integrierten VQA-Systems.
  • 09_flan_t5_rl.ipynb : Verwendung von Reinforcement Learning (RL) zur Verbesserung der FLAN-T5-Modellausgaben.

• Kapitel 10: Erweiterte Feinabstimmung von Open-Source-LLM

  • 10_SAWYER_LLAMA_SFT.ipynb : Feinabstimmung des Llama-3-Modells zur Erstellung des SAWYER-Bots.
  • 10_SAWYER_Reward_Model.ipynb : Trainieren eines Belohnungsmodells aus menschlichen Vorlieben für den SAWYER-Bot.
  • 10_SAWYER_RLF.ipynb : Anwenden von Reinforcement Learning from Human Feedback (RLHF) zur Ausrichtung des SAWYER-Bots.
  • 10_SAWYER_USE_SAWYER.ipynb : Verwendung des SAWYER-Bots.
  • 10_anime_category_classification_model_freezing.ipynb : Feinabstimmung eines BERT-Modells für die Klassifizierung von Anime-Kategorien, Vergleich von Techniken zum Einfrieren von Ebenen.
  • 10_latex_gpt2.ipynb : Feinabstimmung von GPT-2 zur Generierung von LaTeX-Formeln.
  • 10_optimizing_fine_tuning.ipynb : Best Practices zur Optimierung der Feinabstimmung von Transformatormodellen.

• Kapitel 11: LLMs in die Produktion bringen

  • 11_distillation_example_1.ipynb : Erkundung von Wissensdestillationstechniken für Transformatormodelle.
  • 11_distillation_example_2.ipynb : Erweiterte Destillationsmethoden und -anwendungen.
  • 11_llama_quantization.ipynb : Quantisierung von Lama-Modellen für eine effiziente Bereitstellung.

• Kapitel 12: Evaluierung von LLMs

  • 12_llm_calibration.ipynb : Techniken zur Kalibrierung von LLM-Ausgaben.
  • 12_llm_gen_eval.ipynb : Methoden zur Bewertung der generativen Fähigkeiten von LLMs.
  • 12_cluster.ipynb : Clustering-Techniken zur Analyse von LLM-Ausgaben.
  • Probing – Es gibt über ein Dutzend Notebooks für Probing, daher werde ich hier nur einige der wichtigsten vorstellen:
    • Lama-3 8B Unterweisen Sie mit der Aufforderung „Wer ist {NAME}?“
    • BERT-großes Gehäuse, keine Eingabeaufforderung
    • Mistral-7B-Instruct-v0.3 mit Eingabeaufforderung „Wer ist {NAME}“

Verwendung

So verwenden Sie dieses Repository:

1. Klonen Sie das Repository auf Ihren lokalen Computer:

git clone https://github.com/yourusername/quick-start-llms.git

2. Navigieren Sie zum Notebook-Verzeichnis und öffnen Sie das Jupyter-Notebook Ihrer Wahl:

 cd quick-start-llms

3. Installieren Sie die erforderlichen Bibliotheken:

pip install -r requirements.txt

Hinweis: Für einige Notebooks sind möglicherweise bestimmte Datensätze erforderlich, die im Datenverzeichnis zu finden sind.

Mitwirken

Beiträge sind willkommen! Wenn Sie Ergänzungen, Korrekturen oder Verbesserungen haben, können Sie gerne eine Pull-Anfrage einreichen.

Haftungsausschluss

Dieses Repository dient Bildungszwecken und soll das Buch „Quick Start Guide to Large Language Models – Second Edition“ begleiten. Ausführliche Erläuterungen und Diskussionen zu den in den Notizbüchern behandelten Themen finden Sie im Buch.

Mehr von Sinan

1. Weitere AI/LLM-Inhalte finden Sie in Sinans Newsletter AI Office Hours!
2. Sinan hat einen Podcast mit dem Titel „Practically Intelligent“, in dem er über das Neueste und Beste in der KI spricht!
3. Folgen Sie der Playlist „Erste Schritte mit Daten, LLMs und ChatGPT“ auf O'Reilly, um eine kuratierte Liste von Sinans Arbeiten zu erhalten!