quick start guide to llms

Guia de início rápido para modelos de linguagem grande - segunda edição

Obtenha sua cópia hoje e deixe uma avaliação/comentário para me dizer o que você achou!

Bem-vindo ao repositório GitHub do "Guia de início rápido para modelos de linguagem grande - segunda edição" . Este repositório contém os trechos de código e notebooks usados ​​no livro, demonstrando diversas aplicações e técnicas avançadas no trabalho com modelos Transformer e modelos de linguagem grande (LLMs). Veja o código da primeira edição aqui

Estrutura do Repositório

Diretórios

• notebooks : contém notebooks Jupyter para cada capítulo do livro.
• data : contém os conjuntos de dados usados ​​nos notebooks.
• images : Contém imagens e gráficos utilizados nos cadernos.

Cadernos

Abaixo está uma lista dos cadernos incluídos no diretório notebooks , organizados pelos capítulos do livro.

Parte I - Introdução aos Grandes Modelos de Linguagem

• Capítulo 2: Pesquisa Semântica com LLMs

  • 02_semantic_search.ipynb : Uma introdução à pesquisa semântica usando OpenAI e modelos de código aberto.

• Capítulo 3: Primeiros passos com engenharia imediata

  • 03_prompt_engineering.ipynb : Um guia para engenharia imediata eficaz para LLMs alinhados à instrução.

• Capítulo 4: O ecossistema de IA: juntando as peças

  • 04_rag_retrieval.ipynb : Construindo um pipeline de geração aumentada de recuperação (RAG).
  • 04_agent.ipynb : Construindo um agente de IA usando LLMs e outras ferramentas.

Parte II - Aproveitando ao máximo os LLMs

• Capítulo 5: Otimizando LLMs com Ajuste Fino Personalizado

  • 05_bert_app_review.ipynb : Ajustando um modelo BERT para classificação de revisão de aplicativos.
  • 05_openai_app_review_fine_tuning.ipynb : Ajuste de modelos OpenAI para classificação de revisão de aplicativos.

• Capítulo 6: Engenharia de Prompt Avançada

  • 06_adv_prompt_engineering.ipynb : Técnicas avançadas em engenharia de prompt, incluindo validação de saída e aprendizado semântico rápido.

• Capítulo 7: Personalizando Embeddings e Arquiteturas de Modelo

  • 07_recommendation_engine.ipynb : Construindo um mecanismo de recomendação usando LLMs e embeddings personalizados e ajustados.

Parte III - Uso Avançado de LLM

• Capítulo 9: Indo além dos modelos básicos

  • 09_constructing_a_vqa_system.ipynb : Guia passo a passo para construir um sistema Visual Question Answering (VQA) usando GPT-2 e Vision Transformer.
  • 09_using_our_vqa.ipynb : Usando o sistema VQA integrado no notebook anterior.
  • 09_flan_t5_rl.ipynb : Usando Reinforcement Learning (RL) para melhorar os resultados do modelo FLAN-T5.

• Capítulo 10: Ajuste fino avançado de LLM de código aberto

  • 10_SAWYER_LLAMA_SFT.ipynb : Ajustando o modelo Llama-3 para criar o bot SAWYER.
  • 10_SAWYER_Reward_Model.ipynb : Treinando um modelo de recompensa a partir das preferências humanas para o bot SAWYER.
  • 10_SAWYER_RLF.ipynb : Aplicando Aprendizado por Reforço com Feedback Humano (RLHF) para alinhar o bot SAWYER.
  • 10_SAWYER_USE_SAWYER.ipynb : Usando o bot SAWYER.
  • 10_anime_category_classification_model_freezing.ipynb : Ajustando um modelo BERT para classificação de categorias de anime, comparando técnicas de congelamento de camadas.
  • 10_latex_gpt2.ipynb : Ajuste fino do GPT-2 para gerar fórmulas LaTeX.
  • 10_optimizing_fine_tuning.ipynb : Melhores práticas para otimizar o ajuste fino de modelos de transformadores.

• Capítulo 11: Movendo LLMs para Produção

  • 11_distillation_example_1.ipynb : Explorando técnicas de destilação de conhecimento para modelos de transformadores.
  • 11_distillation_example_2.ipynb : Métodos e aplicações avançadas de destilação.
  • 11_llama_quantization.ipynb : Quantizando modelos Llama para implantação eficiente.

• Capítulo 12: Avaliando LLMs

  • 12_llm_calibration.ipynb : Técnicas para calibrar saídas LLM.
  • 12_llm_gen_eval.ipynb : Métodos para avaliar as capacidades generativas de LLMs.
  • 12_cluster.ipynb : Técnicas de cluster para analisar resultados do LLM.
  • Sondagem - Existem mais de uma dúzia de cadernos para Sondagem, então compartilharei apenas alguns dos principais aqui:
    • Llama-3 8B Instruir com prompt "Quem é {NAME}"
    • BERT-caso grande sem aviso
    • Mistral-7B-Instruct-v0.3 com prompt "Quem é {NAME}"

Como usar

Para usar este repositório:

1. Clone o repositório em sua máquina local:

git clone https://github.com/yourusername/quick-start-llms.git

2. Navegue até o diretório notebooks e abra o notebook Jupyter de sua escolha:

 cd quick-start-llms

3. Instale as bibliotecas necessárias:

pip install -r requirements.txt

Observação: alguns notebooks podem exigir conjuntos de dados específicos, que podem ser encontrados no diretório de dados.

Contribuindo

Contribuições são bem-vindas! Se você tiver quaisquer acréscimos, correções ou melhorias, sinta-se à vontade para enviar uma solicitação pull.

Isenção de responsabilidade

Este repositório é para fins educacionais e deve acompanhar o livro "Guia de início rápido para modelos de linguagem grandes - segunda edição". Consulte o livro para explicações e discussões detalhadas sobre os tópicos abordados nos cadernos.

Mais de Sinan

1. Confira o boletim informativo AI Office Hours do Sinan para mais conteúdo AI/LLM!
2. Sinan tem um podcast chamado Praticamente Inteligente, onde ele conversa sobre o que há de melhor e mais recente em IA!
3. Siga a lista de reprodução Introdução a dados, LLMs e ChatGPT no O'Reilly para obter uma lista selecionada do trabalho de Sinan!