Comece com grandes modelos de idiomas (LLMS) - Torne -se um especialista gratuitamente!
Um guia completo para iniciar e melhorar suas habilidades de LLM em 2024 sem uma formação avançada no campo e mantenha-se atualizado com as últimas notícias e técnicas de ponta!
Primeiro, se você tiver 0 programação ou conhecimento de IA, siga este guia que fiz para esse objetivo exato e volte aqui!
Este guia é destinado a qualquer pessoa com um pequeno fundo em programação e aprendizado de máquina. Não há ordem específica para seguir, mas um caminho clássico seria de cima para baixo. Se você não gosta de ler livros, pule -os. Se você não quiser seguir um curso on -line, também pode ignorá -lo. Não existe uma maneira única de se tornar um especialista em aprendizado de máquina e, com motivação, você pode absolutamente alcançá -lo.
Todos os recursos listados aqui são gratuitos, exceto alguns cursos e livros on -line, que certamente são recomendados para uma melhor compreensão, mas é definitivamente possível se tornar um especialista sem eles, com um pouco mais de tempo gasto em leituras, vídeos e práticas on -line. Quando se trata de pagar cursos, os links deste guia são links afiliados. Por favor, use -os se você quiser seguir um curso, pois ele me apoiará. Obrigado e divirta -se aprendendo! Lembre -se, isso depende completamente de você e não é necessário. Eu senti que era útil para mim e talvez útil para os outros também.
Não tenha medo de repetir vídeos ou aprender com várias fontes. A repetição é a chave do sucesso para o aprendizado!
Mantenhador: Louisfb01, também ativo no YouTube e como podcaster, se você quiser ver/ouvir mais sobre AI & LLMS! Você também pode aprender mais duas vezes por semana em meu boletim pessoal!
Sinta -se à vontade para enviar um problema para obter ótimos recursos para adicionar a este repositório.
Marque -me no Twitter @Whats_Ai ou LinkedIn @Louis Bouchard se você compartilhar a lista!
Quer saber do que se trata este guia? Assista a este vídeo:
Índice
- Pré -requesites
- Comece com apresentações de vídeo curtas do YouTube como uma primeira etapa
- Livros e artigos LLM (para leitores)
- Siga os cursos on -line
- Pratique, pratique e pratique!
- Solicitando
- Geração Aumentada Recuperação (RAG)
- Mais recursos (comunidades, folhas de trapaça, notícias e muito mais!)
- Como encontrar um trabalho de aprendizado de máquina
- Ética da AI
- Saiba mais e faça mais ... com LLMS
Pré -requesites
Se você tiver 0 programação ou conhecimento de IA, siga este guia que fiz para esse objetivo exato. Confira principalmente a seção Python e você terá um fundo forte o suficiente para voltar aqui!
Se você está um pouco familiarizado com Python e AI, desejo -lhe feliz aprendizado!
Comece com apresentações de vídeo curtas do YouTube como uma primeira etapa
Comece com apresentações curtas do YouTube
Esta é a melhor maneira de começar do nada. Aqui, listo alguns dos melhores vídeos que encontrei que lhe darão uma ótima primeira introdução aos termos que você precisa saber para começar no campo LLM.
- Entendendo a terminologia
- Dominando o jargão da AI - seu guia para os termos do OpenAI & LLM - Louis Bouchard - Uma introdução rápida aos termos mais usados no mundo LLM (ou GPT).
- Compreendendo Transformers e LLMs (ou seja, modelos por trás do chatgpt)!
- Introdução a grandes modelos de linguagem - uma incrível conversa de 1 hora de Andrej Karpathy.
- Processamento de linguagem natural e grandes modelos de linguagem - Introduções de vídeo incríveis ao mecanismo de atenção, tokens, incorporação e muito mais para entender melhor tudo por trás de grandes modelos de idiomas como o GPT por Luis Serrano.
- O que são modelos de transformadores e como eles funcionam? - Luis Serrano
- O Word2VEC ilustrado - uma introdução suave às incorporações de palavras no aprendizado de máquina - uma explicação clara de incorporações de palavras no aprendizado de máquina por Jay Alammar.
- Um guia de hackers para modelos de idiomas - por Jeremy Howard (Fast.ai).
- Vamos construir GPT: do zero, no código, soletrado. - Por Andrej Karpathy.
Outra maneira fácil de começar e continuar aprendendo é ouvindo podcasts no seu tempo livre. Dirigindo para o trabalho, no ônibus ou tendo problemas para adormecer? Ouça alguns podcasts da IA para se acostumar com os termos e padrões e aprenda sobre o campo através de histórias inspiradoras! Convido você a seguir alguns dos melhores que eu prefiro pessoalmente, como Lex Fridman, Machine Learning Street Talk e, obviamente, meu podcast: Louis Bouchard Podcast, onde você aprenderá sobre pessoas incrivelmente talentosas no campo com histórias inspiradoras que compartilham o conhecimento que eles trabalharam tanto para se reunir. Um novo que eu realmente gosto de ouvir que me mantém atualizado é o podcast de quinta -feira do meu amigo Alex Volkov.
Aqui está uma lista de cursos incríveis disponíveis no YouTube que você definitivamente deve seguir e estar 100% gratuito.
- Vídeos de curso gratuito de Louis Bouchard LLM "LLMs de trem e tune-tune for Production Course de ActiveLoop, em direção a AI & Intel Disruptor". "Uma lista de reprodução do nosso curso LLM: Gen AI 360: Certificação de Modelo Fundacional!"
- Crie um grande modelo de idioma do zero com Python - Tutorial - do Freecodecamp. "Aprenda a construir seu próprio modelo de idioma grande, do zero. Este curso entra no manuseio de dados, matemática e transformadores atrás de grandes modelos de idiomas. Você usará o Python".
- Universidade LLM (LLMU) de Cohere - de Coere. A LLM University (LLMU) é um conjunto de recursos de aprendizado abrangentes para qualquer pessoa interessada em processamento de idiomas natural (PNL), de iniciantes a alunos avançados.
- O mecanismo de atenção em grandes modelos de linguagem - de Luis Serrano. Nesta série de vídeos, Luis explica a arquitetura do transformador cada vez mais em profundidade. É uma visão geral muito boa e explicação dos transformadores e o mecanismo de atenção que acredito que deve ser observado por todos os profissionais da IA.
Livros e artigos LLM (para leitores)
Se você preferir o artigo e o caminho de leitura, aqui estão algumas sugestões:
- Building LLMS para produção: Aprimorando as habilidades LLM e a confiabilidade com impulsionamento, ajuste fino e pano - pela AI. "Descubra as principais pilhas tecnológicas para adaptar modelos de grandes idiomas a aplicativos do mundo real, incluindo engenharia imediata, ajuste fino e geração de aumento da recuperação". (Ou pegue o e-book aqui. Você pode me dar um bom desconto!)
- O transformador ilustrado - de Jay Alammar. Este é um artigo famoso que fornece uma explicação incrível de como os modelos de idiomas atuais funcionam.
- Uma introdução prática ao LLMS - de Shawhin Talebi.
- O Medium é praticamente o melhor lugar para encontrar ótimas explicações, em direção à IA ou em Publicações de Ciência de Dados. Também compartilho meus próprios artigos e adoro usar a plataforma. Você pode se inscrever no Medium usando meu link afiliado aqui se isso parecer interessante para você e se você quiser me apoiar ao mesmo tempo!
- Listas de leitura para novos estudantes de Mila - Anônimo
- Um roteiro completo para dominar a NLP em 2022
- O NLTK Book é o recurso gratuito para aprender sobre teorias fundamentais por trás da NLP: https://www.nltk.org/book/
- O transformador anotado - Harvard
Siga os cursos on -line
Se você gosta de mais orientações, posso aconselhar cursos on -line (opcionais), como ...
- IA generativa com grandes modelos de linguagem - pago
- Torne -se um PNL Pro com a especialização de processamento de linguagem natural da Coursera por Deeplearning.ai - pago
- Curso Gradio - Crie interfaces de usuário para modelos de aprendizado de máquina - Freecodecamp - grátis
- Train & Fine -Tune LLMS para produção de ActiveLoop, em direção à IA & Intel Disruptor - GRÁTIS
- A Universidade LLM por Coere - grátis
- De iniciantes a desenvolvedores avançados da LLM - pela IA. "Crie seu primeiro produto escalável com LLMS, solicitação, trapo, ajuste fino e agentes! Domine as habilidades de habilidades que as principais empresas precisam e construir seu próprio MVP avançado LLM com aplicativos do mundo real".
- Torne-se um PNLP Pro com a especialização de processamento de linguagem natural da Coursera pela Deeplearning.ai-Pago "Break no espaço da NLP. Técnicas de PNL de ponta de ponta através de quatro cursos práticos!"
- Um nano de NLP! -Pagou "Aprenda técnicas de processamento de linguagem natural de ponta para processar a fala e analisar o texto. Crie modelos de aprendizado probabilístico e profundo, como modelos ocultos de Markov e redes neurais recorrentes, para ensinar o computador a realizar tarefas como reconhecimento de fala, tradução de máquinas e muito mais!"
- Introdução a grandes modelos de idiomas com o Google Cloud - pago
- Aprenda a treinar, ajustar e usar o LLMS em seus aplicativos. - grátis por pesos e vieses
- Modelos de idiomas grandes com pesquisa semântica - grátis, deeplearning.ai e coerente
Você pode facilmente pesquisar no Google para mais, mas depois de ler e assistir isso, acredito que você já tem um entendimento bom o suficiente dos LLMs para entrar no negócio real: praticar.
Pratique, pratique e pratique!
A prática é fundamental
A coisa mais importante na programação é a prática. Isso também se aplica ao aprendizado de máquina. Pode ser difícil encontrar um projeto pessoal para praticar. Aconselho você a tentar construir algo sozinho, mas entendo que pode ser intimidador. O que eu sugeriria é seguir um ou dois cursos extremamente aplicados e usar o recurso para construir seu próprio projeto com base nos exemplos de código que eles fornecem, e o ChatGPT ou o GitHub Copilot para trabalhar para você como assistente de código para o restante do trabalho.
Aqui estão alguns dos cursos mais aplicados que pude encontrar para o LLMS:
- Procurando criar um modelo de classificação de texto rápido ou vetorizador de palavras, o FastText é uma boa biblioteca para treinar rapidamente um modelo.
- O Huggingface é o lugar para obter modelos modernos de PNL e eles também incluem um curso inteiro sobre isso.
- Bancos de dados Langchain & Vector na produção - um incrível recurso gratuito que construímos para a IA em parceria com a ActiveLoop e a Iniciativa Intel Disruptor para aprender sobre os bancos de dados Langchain & Vector na produção. "Seja você um desenvolvedor experiente que é um recém -chegado ao reino da IA ou de um entusiasta experiente em aprendizado de máquina, este curso foi projetado para você. Nosso objetivo é tornar a IA acessível e prática, transformando como você aborda suas tarefas diárias e o impacto geral do seu trabalho".
- LLMS de Treinamento e Tuneamento para Produção-Um incrível recurso gratuito que construímos para a IA em parceria com a ActivEloop e a Iniciativa Intel Disruptor para aprender sobre o treinamento e o tune-tuning LLMs para produção. "Se você deseja aprender a treinar e ajustar os LLMs do zero e ter conhecimento intermediário do Python, bem como o acesso a recursos moderados de computação (para alguns casos, apenas um colab do Google será suficiente!), Você deve ser definido para que você seja o que você pode fazer com que o curso é que você se apóia. Adaptar grandes modelos de linguagem em uma ampla gama de indústrias para tornar a IA mais acessível e prática ".
- O tutorial e comunidade do ML do mundo real - pago
Um lembrete. A melhor maneira de aprender é construir algo! Eu realmente propenso a aprender fazendo. Esses cursos são ótimos, mas opcionais. Você pode fazer isso por conta própria, e a maioria das empresas que fornecem recursos para trabalhar com LLMS (OpenAi, Langchain, ActiveLoop, Coere, W&B ...) têm ótimos tutoriais para você começar e construir algo. Então, você pode pedir a Chatgpt para ajudá -lo a terminar!
Solicitando
A solicitação é uma nova e importante habilidade para aprender, tanto usando os modelos quanto para a criação de aplicativos relacionados ao PNL.
- O que é solicitação? Conversando com os modelos de IA ... - grátis
- Chatgpt Prompt Engineering for Developers - pago
- Aprenda solicitação - Este é um ótimo curso gratuito que pretende ensinar solicitação e dar dicas para modelos específicos. É tudo o que você precisa para solicitar!
- Técnicas para melhorar a confiabilidade - OpenIl Cookbook sobre técnicas de solicitação.
Mais sobre geração aumentada de recuperação (RAG) e ajuste fino
A maioria das pessoas constrói aplicativos baseados em trapaceiros atualmente. Aqui estão alguns recursos que eu adorava começar e ter uma boa compreensão disso ...
- Uma pesquisa de técnicas para maximizar o desempenho do LLM - vídeo incrível do OpenAi, abrangendo quando usar engenharia, trapo ou ajuste fino. Isso é imperdível para todos no campo!
- RAG vs Ajuste fino vs Memória Deep Vs Training LLM do zero: quando fazer o que com LLMS-Simplarly, este é um pequeno vídeo que você cobre quando você deve usar rano, ajuste fino ou engenharia rápida em seus aplicativos.
- Construindo um chatbot de perguntas e respostas usando GPT e incorporação - Tutorial do YouTube aplicado por Jeremy Pinto.
- Como criar uma IA que possa responder a perguntas sobre seu site - Tutorial gratuito do OpenAI.
- De iniciantes a desenvolvedores avançados da LLM - pela IA. "Crie seu primeiro produto escalável com LLMS, solicitação, trapo, ajuste fino e agentes! Domine as habilidades de habilidades que as principais empresas precisam e construir seu próprio MVP avançado LLM com aplicativos do mundo real".
- Como criar um aplicativo Web ChatGPT baseado em RAG: Conheça nosso novo tutor de IA-Introdução ao YouTube sobre como eu criei um chatbot baseado em RAG (e como você também pode).
- LLMS de treinamento e ajuste para produção-Aprenda a treinar e ajustar os LLMs do zero.
- Treine e implante um consultor financeiro em tempo real-Curso Hands-On LLMS de Paul Iusztin, Pau Labarta Bajo e Alexandru Razvant.
- A geração aumentada de recuperação para produção com Langchain & Llamaindex - se planeja criar um bate -papo com o aplicativo de dados para sua organização ou apenas aprender a alavancar a IA generativa em vários setores, este curso é para você. O curso aborda questões críticas, como aumentar a precisão da recuperação, reduzir as alucinações nas saídas da IA, melhorando a explicação, abordando as preocupações com direitos autorais e oferecendo entradas de dados mais adaptadas e atualizadas. Vamos além de aplicações básicas de pano, equipando você com as habilidades para criar produtos mais complexos e confiáveis com ferramentas como Langchain, Llamaindex e Memory Deep. Enfatizando o aprendizado prático, este curso é uma porta de entrada para dominar as técnicas e aplicações avançadas de trapos em cenários do mundo real.
- Building LLMS para produção: Aprimorando as habilidades LLM e a confiabilidade com impulsionamento, ajuste fino e pano - pela AI. "Descubra as principais pilhas tecnológicas para adaptar grandes modelos de idiomas a aplicativos do mundo real, incluindo engenharia imediata, ajuste fino e geração de aumento da recuperação". (Ou pegue o e-book aqui. Você pode me dar um bom desconto!)
Mais recursos
Junte -se às comunidades!
Um servidor Discord com muitos entusiastas da IA - aprenda juntos, faça perguntas, encontre colegas de equipe da Kaggle, compartilhe seus projetos e muito mais.
Um servidor Discord, onde você pode se manter atualizado com as últimas notícias da IA-mantenha-se atualizado com as últimas notícias da IA, faça perguntas, compartilhe seus projetos e muito mais.
Aprenda a comunidade de discórdios - converse com colegas engenheiros.
Siga as comunidades do Reddit - faça perguntas, compartilhe seus projetos, siga as notícias e muito mais.
- Inteligência Artificial - Artificial
- MACHINELEARNING - Aprendizado de máquina (maior subreddit do campo)
- DeeplearningningPapers - Documentos de aprendizagem profunda
- Computervision - Extrair informações úteis de imagens e vídeos
- LearnMachineLearning - Aprenda a Machine Learning
- ArtificialInteligence - Ai
- Latsestinml - Desenvolvimentos de mudança de jogo no aprendizado de máquina que você não deve perder
Siga as notícias no campo!
Encontre um trabalho de aprendizado de máquina
- Leia esta seção do artigo cheio de dicas de entrevistas e como se preparar para elas .
- Saiba como o processo de entrevista vai e melhorando para se preparar para eles assistindo como os outros fizeram isso, como a série de entrevistas que eu corri com especialistas da Nvidia, Zoox (empresa autônoma), D-ID (Startup AI generativa), etc.
Ética da AI
- O que são ética e por que eles importam? Machine Learning Edition - Por Rachel Thomas, fundador da Fast.ai
- Ai4people - uma estrutura ética para uma boa sociedade de IA: oportunidades, riscos, princípios e recomendações - Floridi et al., 2018, ai4people ai para uma boa sociedade
- Diretrizes de ética para a IA confiável - Comissão Europeia Grupo de Especialistas de alto nível 7 pontos para uma IA confiável.
- Uma introdução à ética em robótica e IA - um e -book gratuito de Christoph Bartneck, Christoph Lütge, Alan Wagner e Sean Welsh.
Saiba mais e faça mais ... com LLMS
Chatgpt, Bing, Claude ... são incríveis. Claro, eles têm limitações. No entanto, você pode aproveitar aqueles para aprender o que quiser. Eu o uso para codificar ou fazer muitas perguntas em geral. Você precisa verificar novamente quando fizer perguntas importantes. Ainda assim, é uma ferramenta poderosa. Sim, é uma ferramenta, não uma substituição humana. Use -o como um assistente idiota que conhece praticamente tudo.
Aqui está um exemplo claro de como eu o usei para um projeto para entender melhor uma função de um projeto com o qual não estava familiarizado. Isto é para o Python, mas esses modelos são extremamente poderosos para codificar em geral, compreendendo novas plataformas (como AWS, GCP, trabalhando com uma máquina virtual, um servidor, conexões SSH, etc ... qualquer coisa que você não esteja familiarizado com isso é útil no espaço LLM).
PS Eu não mencionei Bing e Claude por diversão. Não dependa excessivamente de uma única empresa como o OpenAI. Existem (e sempre haverá) outras empresas na luta pelo melhor LLM. Eu queria criar um exemplo para o guia esta manhã quando ...
Marque -me no Twitter @Whats_Ai ou LinkedIn @Louis Bouchard se você compartilhar a lista!
? Se você quiser apoiar meu trabalho , pode verificar para patrocinar este repositório ou me apoiar no Patreon.
Este guia ainda é atualizado regularmente.
