Commencez par des modèles de grande langue (LLMS) - Devenez un expert gratuitement!
Un guide complet pour démarrer et améliorer vos compétences en LLM en 2024 sans une formation avancée dans le domaine et rester à jour avec les dernières nouvelles et les techniques de pointe!
Tout d'abord, si vous avez 0 programmation ou des connaissances sur l'IA, veuillez suivre ce guide que j'ai fait à cet effet exact et revenez ici!
Ce guide est destiné à toute personne ayant une petite expérience en programmation et en apprentissage automatique. Il n'y a pas d'ordre spécifique à suivre, mais un chemin classique serait de haut en bas. Si vous n'aimez pas lire des livres, sautez-les. Si vous ne voulez pas suivre un cours en ligne, vous pouvez également le sauter. Il n'y a pas un seul moyen de devenir un expert en apprentissage automatique, et avec motivation, vous pouvez absolument y parvenir.
Toutes les ressources répertoriées ici sont gratuites, à l'exception de certains cours et livres en ligne, qui sont certainement recommandés pour une meilleure compréhension, mais il est certainement possible de devenir un expert sans eux, avec un peu plus de temps consacré aux lectures, vidéos et pratiques en ligne. En ce qui concerne les cours de paiement, les liens de ce guide sont des liens affiliés. Veuillez les utiliser si vous avez envie de suivre un cours, car cela me soutiendra. Merci et amusez-vous à apprendre! N'oubliez pas que cela dépend entièrement de vous et pas nécessaire. J'avais l'impression que cela m'était utile et peut-être utile aux autres aussi.
N'ayez pas peur de répéter des vidéos ou d'apprendre de plusieurs sources. La répétition est la clé de la réussite de l'apprentissage!
Entreller: LouisfB01, également actif sur YouTube et en tant que podcasteur si vous voulez en savoir plus sur AI & LLMS! Vous pouvez également en savoir plus deux fois par semaine dans ma newsletter personnelle!
N'hésitez pas à soumettre un problème pour toutes les excellentes ressources pour ajouter à ce référentiel.
Tagez-moi sur Twitter @Whats_ai ou LinkedIn @louis Bouchard si vous partagez la liste!
Vous voulez savoir de quoi parle ce guide? Regardez cette vidéo:
Table des matières
- Conditions préalables
- Commencez par les courtes présentations vidéo YouTube comme première étape
- Livres et articles LLM (pour les lecteurs)
- Suivez les cours en ligne
- Pratique, pratique et pratique!
- Incitation
- Génération augmentée (RAG) de récupération (RAG)
- Plus de ressources (communautés, feuilles de triche, nouvelles et plus encore!)
- Comment trouver un travail d'apprentissage automatique
- Éthique de l'IA
- En savoir plus et faire plus ... avec les LLM
Conditions préalables
Si vous avez 0 programmation ou des connaissances sur l'IA, veuillez suivre ce guide que j'ai fait à cet effet exact. Consultez la section Python principalement, puis vous aurez un fond assez fort pour revenir ici!
Si vous êtes un peu familier avec Python et AI, alors je vous souhaite un bon apprentissage!
Commencez par les courtes présentations vidéo YouTube comme première étape
Commencez par de courtes présentations de vidéos YouTube
C'est la meilleure façon de commencer de rien. Ici, je répertorie quelques-unes des meilleures vidéos que j'ai trouvées qui vous donneront une excellente première introduction aux termes que vous devez connaître pour démarrer dans le champ LLM.
- Comprendre la terminologie
- Mastering AI Jargon - Votre guide des termes Openai & LLM - Louis Bouchard - une introduction rapide aux termes les plus utilisés dans le monde LLM (ou GPT).
- Comprendre les transformateurs et les LLM (c'est-à-dire les modèles derrière Chatgpt)!
- Intro aux grands modèles de langage - un discours incroyable d'une heure d'Andrej Karpathy.
- Traitement du langage naturel et modèles de grands langues - Introductions vidéo étonnantes au mécanisme d'attention, aux jetons, aux incorporations et plus encore pour mieux comprendre tout derrière de grands modèles de langue comme GPT par Luis Serrano.
- Que sont les modèles Transformer et comment fonctionnent-ils? - Luis Serrano
- The Illustrated Word2Vec - Une douce introduction aux intégres de mots dans l'apprentissage automatique - une explication claire des intégres de mots dans l'apprentissage automatique par Jay Alamm.
- Un guide des pirates sur les modèles de langue - par Jeremy Howard (Fast.ai).
- Créons GPT: à partir de zéro, en code, épelé. - par Andrej Karpathy.
Un autre moyen facile de commencer et de continuer à apprendre est d'écouter des podcasts pendant votre temps libre. Conduire au travail, dans le bus ou avoir du mal à s'endormir? Écoutez certains podcasts d'IA pour vous habituer aux termes et modèles, et découvrez le domaine à travers des histoires inspirantes! Je vous invite à suivre quelques-uns des meilleurs que je préfère personnellement, comme Lex Fridman, Machine Learning Street Talk, et évidemment, mon podcast Podcast: Louis Bouchard, où vous découvrirez des personnes incroyablement talentueuses dans le domaine avec des histoires inspirantes partageant les connaissances qu'ils ont travaillé si dur pour rassembler. Un nouveau que j'aime vraiment écouter qui me tient au courant est le podcast Thursdaydai de mon ami Alex Volkov.
Voici une liste de cours impressionnants disponibles sur YouTube que vous devriez certainement suivre et à 100% gratuit.
- Les vidéos de cours gratuites LLM de Louis Bouchard "Train & Fine-Tune LLMS for Production Course par ActiveLoop, vers AI & Intel Disruptor". "Une liste de lecture pour notre cours LLM: Gen AI 360: Certification du modèle fondamental!"
- Créez un grand modèle de langue à partir de zéro avec Python - tutoriel - par freecodecamp. "Apprenez à construire votre propre modèle de grande langue, à partir de zéro. Ce cours entre dans la gestion des données, les mathématiques et les transformateurs derrière de grands modèles de langue. Vous utiliserez Python."
- LLM University (LLMU) de Cohere - par Cohere. LLM University (LLMU) est un ensemble de ressources d'apprentissage complètes pour toute personne intéressée par le traitement du langage naturel (PNL), des débutants aux apprenants avancés.
- Le mécanisme d'attention dans les modèles de grande langue - par Luis Serrano. Dans cette série de vidéos, Luis explique l'architecture du transformateur qui va de plus en plus en profondeur. C'est un très bon aperçu et une explication des transformateurs et du mécanisme d'attention qui, je crois, devrait être surveillé par tous les professionnels de l'IA.
Livres et articles LLM (pour les lecteurs)
Si vous préférez l'article et le chemin de lecture, voici quelques suggestions:
- Bâtiment LLMS pour la production: améliorer les capacités LLM et la fiabilité avec l'invitation, le réglage fin et le chiffon - par vers l'IA. "Découvrez les piles techniques clés pour adapter des modèles de grands langues aux applications du monde réel, y compris l'ingénierie rapide, le réglage fin et la génération d'augmentation de récupération." (Ou obtenir le livre électronique ici. Vous pouvez me dm pour une belle remise!)
- Le transformateur illustré - par Jay Alamm. Ceci est un article célèbre fournissant une explication incroyable à la façon dont les modèles de langue actuels fonctionnent.
- Une introduction pratique aux LLMS - par Shawhin Talebi.
- Le médium est à peu près le meilleur endroit pour trouver de grandes explications, soit vers l'IA, soit vers les publications de la science des données. Je partage également mes propres articles là-bas et j'adore utiliser la plate-forme. Vous pouvez vous abonner à Medium en utilisant mon lien affilié ici si cela vous semble intéressant et si vous souhaitez me soutenir en même temps!
- Listes de lecture pour les nouveaux étudiants de Mila - Anonyme
- Une feuille de route complète pour maîtriser la PNL en 2022
- NLTK Book est la ressource gratuite pour en savoir plus sur les théories fondamentales derrière NLP: https://www.nltk.org/book/
- Le transformateur annoté - Harvard
Suivez les cours en ligne
Si vous aimez plus de conseils, je peux conseiller à consulter les cours en ligne (facultatifs), tels que ...
- AI générative avec des modèles de grande langue - payé
- Devenez une NLP Pro avec la spécialisation du traitement du langage naturel de Coursera par Deeplearning.ai - Payé
- Cours de graddio - Créer des interfaces utilisateur pour les modèles d'apprentissage automatique - FreeCodecamp - GRATUIT
- Train & Fine-Tune LLMS pour le cours de production par ActiveLoop, vers AI et Intel Disruptor - GRATUIT
- L'Université LLM par Cohere - gratuit
- Des débutants au développeur LLM avancé - par vers l'IA. "Construisez votre premier produit évolutif avec LLMS, l'incitation, le chiffon, le réglage fin et les agents! Maître les compétences Les meilleures entreprises ont besoin et construire votre propre MVP LLM avancé avec des applications du monde réel."
- Devenez une NLP Pro avec la spécialisation du traitement du langage naturel de Coursera par DeepLearning.ai - «Entre dans l'espace PNL.
- Un Nano degré NLP! - Payé "Apprenez des techniques de traitement du langage naturel de pointe pour traiter la parole et analyser du texte. Créer des modèles probabilistes et d'apprentissage en profondeur, tels que des modèles de Markov cachés et des réseaux neuronaux récurrents, pour enseigner à l'ordinateur à effectuer des tâches telles que la reconnaissance vocale, la traduction automatique, et plus encore!"
- Introduction aux grands modèles de langue avec Google Cloud - Payé
- Apprenez à s'entraîner, à affiner et à utiliser les LLM dans vos applications. - Gratuit par poids et biais
- Modèles de grande langue avec recherche sémantique - Free, Deeplearning.ai et Cohere
Vous pouvez facilement rechercher sur Google pour plus, mais après avoir lu et regardé ceux-ci, je crois que vous avez déjà une compréhension suffisamment bonne des LLM pour entrer dans la vraie affaire: la pratique.
Pratique, pratique et pratique!
La pratique est essentielle
La chose la plus importante dans la programmation est la pratique. Cela s'applique également à l'apprentissage automatique. Il peut être difficile de trouver un projet personnel à pratiquer. Je vous conseille fortement d'essayer de construire quelque chose par vous-même, mais je comprends que cela peut être intimidant. Ce que je suggérerais alors, c'est de suivre un ou deux cours extrêmement appliqués et d'utiliser la ressource pour créer votre propre projet en fonction des exemples de code qu'ils vous fournissent, et le copilote de ChatGpt ou GitHub pour vous en tant qu'assistant de code pour le reste du travail.
Voici quelques-uns des cours les plus appliqués que j'ai pu trouver pour les LLM:
- Cherchant à créer un modèle de classification de texte rapide ou un vecteur de mots, FastText est une bonne bibliothèque pour former rapidement un modèle.
- Huggingface est l'endroit idéal pour obtenir des modèles de PNL modernes, et ils incluent également un cours entier à ce sujet.
- Bases de données Langchain & Vector dans la production - une ressource gratuite incroyable que nous avons construite vers l'IA en partenariat avec ActiveLoop et l'initiative Intel Disruptor pour en savoir plus sur les bases de données Langchain & Vector en production. "Que vous soyez un développeur expérimenté qui est un nouveau venu dans le domaine de l'IA ou un passionné de l'apprentissage automatique, ce cours est conçu pour vous. Notre objectif est de rendre l'IA accessible et pratique, de transformer la façon dont vous abordez vos tâches quotidiennes et l'impact global de votre travail."
- TRAINEMENT ET FACHING LLMS POUR PRODUCTION - Une ressource gratuite incroyable que nous avons construite vers l'IA en partenariat avec ActiveLoop et l'initiative Intel Disruptor pour se renseigner sur la formation et les LLM de réglage fin pour la production. "Si vous souhaitez apprendre à former et à affiner les LLM à partir de zéro et à avoir des connaissances intermédiaires Python ainsi qu'à l'accès à des ressources de calcul modérées (pour certains cas, juste un public Google suffira!), Vous devriez être prêt à suivre et à terminer le cours. Ce cours est conçu avec un large public à l'esprit, y compris les débutants en AI, les ingénieurs machine actuels, les étudiants et les professionnels en considérant une transmission professionnelle de carrière pour AI. Adapter les modèles de grands langues dans un large éventail d'industries pour rendre l'IA plus accessible et pratique. "
- Le tutoriel et la communauté du monde réel - payé
Un rappel. La meilleure façon d'apprendre est de construire quelque chose! Je suis vraiment enclin à apprendre en faisant. Ces cours sont tous excellents mais facultatifs. Vous pouvez le faire par vous-même, et la plupart des entreprises fournissant des ressources pour travailler avec LLMS (Openai, Langchain, ActiveLoop, Cohere, W&B ...) ont d'excellents tutoriels pour vous aider à démarrer et à créer quelque chose. Ensuite, vous pouvez demander à Chatgpt pour vous aider à le terminer!
Incitation
Inviter est une nouvelle compétence importante à apprendre pour l'utilisation des modèles et la création d'applications liées aux PNL.
- Qu'est-ce que l'incitation? Parler avec des modèles d'IA ... - gratuit
- Chatgpt Insidering ingénierie pour les développeurs - Payé
- Apprendre l'incitation - Il s'agit d'un excellent cours gratuit dans l'intention d'enseigner l'incitation et de donner des conseils pour des modèles spécifiques. C'est tout ce dont vous avez besoin pour inciter!
- Techniques pour améliorer la fiabilité - Openai Cookbook on Invite Techniques.
En savoir plus sur la génération augmentée de récupération (RAG) et le réglage fin
La plupart des gens créent actuellement des applications basées sur des chiffons. Voici quelques ressources que j'ai adoré vous aider à démarrer et à bien comprendre ...
- Une enquête sur les techniques pour maximiser les performances LLM - Vidéo incroyable par Openai Covering Quand utiliser l'ingénierie rapide, le chiffon ou le réglage fin. C'est un incontournable pour tout le monde sur le terrain!
- Rag vs ajustement fin vs mémoire profonde vs formation LLM à partir de zéro: Quand faire avec LLMS - Simlarly, il s'agit d'une courte vidéo de couverture lorsque vous devez utiliser des chiffons, du réglage fin ou de l'ingénierie rapide dans vos applications.
- Construire un chatbot de questions / réponses à l'aide de GPT et d'intégration - tutoriel YouTube appliqué par Jeremy Pinto.
- Comment construire une IA qui peut répondre aux questions sur votre site Web - Tutoriel OpenAI gratuit.
- Des débutants au développeur LLM avancé - par vers l'IA. "Construisez votre premier produit évolutif avec LLMS, l'incitation, le chiffon, le réglage fin et les agents! Maître les compétences Les meilleures entreprises ont besoin et construire votre propre MVP LLM avancé avec des applications du monde réel."
- Comment créer une application Web ChatGPT basée sur des chiffons: Rencontrez notre nouveau tuteur AI - Introduction YouTube sur la façon dont j'ai construit un chatbot basé sur Rag (et comment vous pouvez aussi).
- TRAPALIT ET LETTRACTIONS DE TOURNAGE POUR LA PRODUCTION - Apprenez à former et à affiner les LLM à partir de zéro.
- Train et déploie un conseiller financier en temps réel - cours pratique LLMS par Paul Iusztin, Pau Labarta Bajo et Alexandru Razvant.
- Récupération de la production augmentée pour la production avec Langchain & Llamaindex - Que ce soit la planification de la conversation avec une application de données pour votre organisation ou simplement d'apprendre à tirer parti de l'IA génératrice dans diverses industries, ce cours est pour vous. Le cours aborde les problèmes critiques tels que l'augmentation de la précision de récupération, la réduction des hallucinations dans les sorties d'IA, l'amélioration de l'explication, la résolution des préoccupations du droit d'auteur et l'offre d'entrées de données plus personnalisées et à jour. Nous allons au-delà des applications de RAG de base, vous équipant des compétences nécessaires pour créer des produits plus complexes et fiables avec des outils comme Langchain, Llamaindex et une mémoire profonde. Soulignant l'apprentissage pratique, ce cours est une passerelle pour maîtriser les techniques et les applications avancées de chiffon dans les scénarios du monde réel.
- Bâtiment LLMS pour la production: améliorer les capacités LLM et la fiabilité avec l'invitation, le réglage fin et le chiffon - par vers l'IA. "Découvrez les piles techniques clés pour adapter des modèles de grands langues aux applications du monde réel, y compris l'ingénierie rapide, le réglage fin et la génération d'augmentation de récupération." (Ou obtenir le livre électronique ici. Vous pouvez me dm pour une belle remise!)
Plus de ressources
Rejoignez les communautés!
Un serveur Discord avec de nombreux amateurs d'IA - apprendre ensemble, poser des questions, trouver des coéquipiers de Kaggle, partager vos projets, etc.
Un serveur Discord où vous pouvez rester à jour avec les dernières nouvelles de l'IA - restez à jour avec les dernières nouvelles de l'IA, posez des questions, partagez vos projets et bien plus encore.
Apprendre à inviter Discord Community - Discutez avec ses collègues ingénieurs rapides.
Suivez les communautés Reddit - posez des questions, partagez vos projets, suivez les nouvelles, etc.
- Artificiel - Intelligence artificielle
- MachineLearning - Machine Learning (plus grand subreddit du champ)
- DeepLearningPapers - Papiers d'apprentissage en profondeur
- ComputerSion - Extraction d'informations utiles à partir d'images et de vidéos
- LearnMachineLearning - Apprenez l'apprentissage automatique
- Intelligence artificielle - AI
- LatSestinml - Développements de changement de jeu dans l'apprentissage automatique, vous ne devriez pas manquer
Suivez les nouvelles sur le terrain!
Trouvez un travail d'apprentissage automatique
- Lisez cette section de l'article plein de conseils d'entrevue et comment vous préparer .
- Découvrez comment le processus d'entrevue se déroule et s'améliorez pour les préparer en regardant comment les autres l'ont fait, comme la série d'interview que j'ai couru avec des experts de NVIDIA, ZOOX (entreprise autonome), D-ID (startup génératrice de l'IA), etc.
Éthique de l'IA
- Qu'est-ce que l'éthique et pourquoi importent-ils? Machine Learning Edition - par Rachel Thomas, fondatrice de Fast.ai
- AI4people - un cadre éthique pour une bonne société d'IA: opportunités, risques, principes et recommandations - Floridi et al., 2018, AI4people AI pour une bonne société
- Lignes directrices éthiques pour une AI digne de confiance - Commission européenne de haut niveau Group 7 points pour une IA digne de confiance.
- Une introduction à l'éthique en robotique et en AI - un livre électronique gratuit de Christoph Bartneck, Christoph Lütge, Alan Wagner et Sean Welsh.
En savoir plus et faire plus ... avec les LLM
Chatgpt, Bing, Claude ... sont incroyables. Bien sûr, ils ont des limites. Pourtant, vous pouvez en tirer parti pour apprendre tout ce que vous voulez. Je l'utilise pour coder ou poser beaucoup de questions en général. Vous devez revérifier lorsque vous posez des questions importantes. Pourtant, c'est un outil puissant. Oui, c'est un outil, pas un remplacement humain. Utilisez-le comme un assistant stupide qui connaît à peu près tout.
Voici un exemple clair de la façon dont je l'ai utilisé pour un projet pour mieux comprendre une fonction d'un projet que je ne connaissais pas. Ceci est pour Python, mais ces modèles sont extrêmement puissants pour le codage en général, en comprenant de nouvelles plates-formes (comme AWS, GCP, en travaillant avec une machine virtuelle, un serveur, des connexions SSH, etc .... Tout ce que vous ne connaissez pas est utile dans l'espace LLM).
PS Je n'ai pas mentionné Bing et Claude pour le plaisir. Ne dépendez pas trop d'une seule entreprise comme Openai. Il y a (et sera toujours) d'autres entreprises dans la lutte pour le meilleur LLM. Je voulais créer un exemple pour le guide ce matin quand ...
Tagez-moi sur Twitter @Whats_ai ou LinkedIn @louis Bouchard si vous partagez la liste!
? Si vous souhaitez soutenir mon travail , vous pouvez vérifier pour parrainer ce référentiel ou me soutenir sur Patreon.
Ce guide est toujours régulièrement mis à jour.
