Comience con modelos de idiomas grandes (LLM): ¡conviértase en un experto de forma gratuita!
¡Una guía completa para comenzar y mejorar sus habilidades de LLM en 2024 sin una experiencia avanzada en el campo y mantenerse actualizado con las últimas noticias y técnicas de vanguardia!
Primero, si tiene 0 de programación o conocimiento de IA, siga esta guía que hice para este propósito exacto y vuelve aquí.
Esta guía está destinada a cualquier persona con una pequeña experiencia en programación y aprendizaje automático. No hay un orden específico que seguir, pero una ruta clásica sería de arriba a abajo. Si no te gusta leer libros, omítalos. Si no desea seguir un curso en línea, también puede omitirlo. No hay una sola forma de convertirse en un experto en aprendizaje automático, y con la motivación, puede lograrlo absolutamente.
Todos los recursos enumerados aquí son gratuitos, excepto algunos cursos y libros en línea, que ciertamente se recomiendan para una mejor comprensión, pero definitivamente es posible convertirse en un experto sin ellos, con un poco más de tiempo en lecturas, videos y prácticas en línea. Cuando se trata de pagar cursos, los enlaces en esta guía son enlaces afiliados. Úsalos si tiene ganas de seguir un curso, ya que me apoyará. ¡Gracias y diviértete aprendiendo! Recuerde, esto depende completamente de usted y no es necesario. Sentí que era útil para mí y tal vez para otros también.
No tenga miedo de repetir videos o aprender de múltiples fuentes. ¡La repetición es la clave del éxito para el aprendizaje!
Mantenedor: LouisFB01, también activo en YouTube y como podcaster si desea ver/escuchar más sobre AI & LLMS. ¡También puede aprender más dos veces por semana en mi boletín personal!
Siéntase libre de enviar un problema para cualquier recurso excelente para agregar a este repositorio.
¡Etiquetame en Twitter @Whats_ai o LinkedIn @louis Bouchard si comparte la lista!
¿Quieres saber de qué se trata esta guía? Mira este video:
Tabla de contenido
- Prerreques
- Comience con las presentaciones cortas de video de YouTube como primer paso
- LLM Libros y artículos (para lectores)
- Siga los cursos en línea
- ¡Practica, practica y practica!
- Incitación
- Recuperación de generación aumentada (trapo)
- ¡Más recursos (comunidades, hojas de trucos, noticias y más!)
- Cómo encontrar un trabajo de aprendizaje automático
- AI Ética
- Aprenda más y haga más ... con LLMS
Prerreques
Si tiene 0 programación o conocimiento de IA, siga esta guía que hice para este propósito exacto. ¡Mira la sección Python principalmente y luego tendrás un fondo lo suficientemente fuerte como para volver aquí!
Si estás un poco familiarizado con Python y Ai, ¡te deseo un feliz aprendizaje!
Comience con las presentaciones cortas de video de YouTube como primer paso
Comience con introducciones cortas de videos de YouTube
Esta es la mejor manera de comenzar de la nada. Aquí, enumero algunos de los mejores videos que encontré que le darán una excelente primera introducción a los términos que necesita saber para comenzar en el campo LLM.
- Comprender la terminología
- Mastering Ai Jerga - Su guía para los términos de OpenAI & LLM - Louis Bouchard - Una introducción rápida a los términos más utilizados en el mundo LLM (o GPT).
- ¡Comprender los transformadores y LLM (es decir, modelos detrás de ChatGPT)!
- Introducción a modelos de idiomas grandes: una increíble charla de 1 hora de Andrej Karpathy.
- Procesamiento de lenguaje natural y modelos de lenguaje grande: presentaciones de video increíbles al mecanismo de atención, fichas, incrustaciones y más para comprender mejor todo detrás de modelos de idiomas grandes como GPT de Luis Serrano.
- ¿Qué son los modelos de transformadores y cómo funcionan? - Luis Serrano
- El Word2Vec ilustrado, una introducción suave a las incrustaciones de palabras en el aprendizaje automático, una explicación clara de las incrustaciones de palabras en el aprendizaje automático de Jay Alammar.
- Una guía de hackers para modelos de idiomas - por Jeremy Howard (Fast.ai).
- Vamos a construir GPT: desde cero, en código, deletreado. - Por Andrej Karpathy.
Otra manera fácil de comenzar y seguir aprendiendo es escuchando podcasts en su tiempo libre. ¿Conducir al trabajo, en el autobús o tener problemas para quedarse dormido? ¡Escuche algunos podcasts de IA para acostumbrarse a los términos y patrones, y aprenda sobre el campo a través de historias inspiradoras! Te invito a seguir algunos de los mejores que prefiero personalmente, como Lex Fridman, Machine Learning Street Talk, y obviamente, mi podcast: Louis Bouchard Podcast, donde aprenderás sobre personas increíblemente talentosas en el campo con historias inspiradoras que comparten el conocimiento que trabajaron tan duro para reunir. Una nueva que realmente disfruto escuchar que me mantiene actualizado es el podcast Thursday de mi amigo Alex Volkov.
Aquí hay una lista de cursos increíbles disponibles en YouTube que definitivamente deberías seguir y que son 100% gratis.
- Videos de curso gratuito de Louis Bouchard LLM "Train & Fine-Tune LLMS para el curso de producción por Activeloop, hacia AI e Intel Disruptor". "Una lista de reproducción para nuestro curso LLM: Gen AI 360: ¡Certificación de modelo fundamental!"
- Cree un modelo de idioma grande desde cero con Python - tutorial - por FreecodeCamp. "Aprenda a construir su propio modelo de lenguaje grande, desde cero. Este curso entra en el manejo de datos, las matemáticas y los transformadores detrás de los modelos de idiomas grandes. Usará Python".
- Universidad LLM (LLMU) de Cohere - por Cohere. LLM University (LLMU) es un conjunto de recursos de aprendizaje integrales para cualquier persona interesada en el procesamiento del lenguaje natural (PNL), desde principiantes hasta estudiantes avanzados.
- El mecanismo de atención en modelos de lenguaje grande - por Luis Serrano. En esta serie de videos, Luis explica que la arquitectura del transformador se profundiza cada vez más. Es una muy buena descripción general y una explicación de los transformadores y el mecanismo de atención que creo que todos los profesionales de la IA deberían ver.
LLM Libros y artículos (para lectores)
Si prefiere el artículo y la ruta de lectura, aquí hay algunas sugerencias:
- Building LLMS para la producción: Mejora de las habilidades de LLM y la confiabilidad con la solicitud, el ajuste y el trapo hacia AI. "Descubra las pilas tecnológicas clave para adaptar modelos de idiomas grandes a aplicaciones del mundo real, incluidas la ingeniería rápida, el ajuste de fino y la generación de aumentos de recuperación". (O obtenga el libro electrónico aquí. ¡Puede DM por un buen descuento!)
- El transformador ilustrado - por Jay Alammar. Este es un artículo famoso que proporciona una explicación sorprendente sobre cómo funcionan los modelos de idiomas actuales.
- Una introducción práctica a LLMS - por Shawhin Talebi.
- Medium es más o menos el mejor lugar para encontrar excelentes explicaciones, ya sea hacia AI o hacia publicaciones de ciencia de datos. También comparto mis propios artículos allí y me encanta usar la plataforma. ¡Puede suscribirse a Medium usando mi enlace afiliado aquí si esto le parece interesante y si desea apoyarme al mismo tiempo!
- Listas de lectura para estudiantes de Nueva Mila - Anónimo
- Una hoja de ruta completa para el maestro PNL en 2022
- NLTK Book es el recurso gratuito para aprender sobre teorías fundamentales detrás de NLP: https://www.nltk.org/book/
- El transformador anotado - Harvard
Siga los cursos en línea
Si le gusta más orientación, puedo aconsejar cursos en línea (opcionales), como ...
- AI generativa con modelos de idiomas grandes - pagado
- Conviértase en un profesional de NLP con la especialización de procesamiento del lenguaje natural de Coursera por Deeplearning.ai - Pagado
- Curso de Gradio - Crear interfaces de usuario para modelos de aprendizaje automático - Freecodecamp - gratis
- Train & Fine -tune LLMS para el curso de producción por Activeloop, hacia AI e Intel Disruptor - Free
- La Universidad LLM de Cohere - Free
- Desde principiantes hasta desarrolladores avanzados de LLM, por AI. "¡Construya su primer producto escalable con LLMS, solicitantes, trapo, ajuste y agentes! Master las habilidades que las principales compañías necesitan y construyen su propio MVP de LLM avanzado con aplicaciones del mundo real".
- Conviértase en un profesional de NLP con la especialización de procesamiento del lenguaje natural de Coursera por Deeplearning.ai-Pagado "¡Pagó el espacio de la PNL.
- ¡Un nano grado de PNL! -Pagado "Aprenda técnicas de procesamiento del lenguaje natural de vanguardia para procesar el habla y analizar el texto. Cree modelos probabilísticos y de aprendizaje profundo, como modelos ocultos de Markov y redes neuronales recurrentes, para enseñar a la computadora a hacer tareas como reconocimiento de voz, traducción automática y más!"
- Introducción a modelos de idiomas grandes con Google Cloud - Pagado
- Aprenda a entrenar, afinar y usar LLM en sus aplicaciones. - gratis por pesas y prejuicios
- Modelos de idiomas grandes con búsqueda semántica - gratis, profundo. Ai y Cohere
Puede buscar fácilmente obtener más información para obtener más información, pero después de leerlos y verlos, creo que ya tiene una buena comprensión de los LLM para entrar en el trato real: practicar.
¡Practica, practica y practica!
La práctica es clave
Lo más importante en la programación es la práctica. Esto también se aplica al aprendizaje automático. Puede ser difícil encontrar un proyecto personal para practicar. Te aconsejo que intentes construir algo por ti mismo, pero entiendo que puede ser intimidante. Lo que sugeriría es seguir uno o dos cursos extremadamente aplicados y usar el recurso para construir su propio proyecto basado en los ejemplos de código que le proporcionan, y el copiloto de ChatGpt o GitHub para trabajar para usted como asistente de código para el resto del trabajo.
Estos son algunos de los cursos más aplicados que pude encontrar para LLM:
- Buscando construir un modelo de clasificación de texto rápido o un vectorizador de palabras, FastText es una buena biblioteca para entrenar rápidamente un modelo.
- Huggingface es el lugar para obtener modelos NLP modernos, y también incluyen un curso completo al respecto.
- Bases de datos de Langchain & Vector en producción: un increíble recurso gratuito en el que construimos hacia AI en asociación con Activeloop y la iniciativa Intel Disruptor para aprender sobre las bases de datos de Langchain & Vector en la producción. "Ya sea que sea un desarrollador experimentado que sea un recién llegado al reino de la IA o un entusiasta experimentado de aprendizaje automático, este curso está diseñado para usted. Nuestro objetivo es hacer que la IA sea accesible y práctica, transformando cómo aborda sus tareas diarias y el impacto general de su trabajo".
- Capacitación y LLMS para la producción: un increíble recurso gratuito en el que construimos hacia AI en asociación con Activeloop y la iniciativa Intel Disruptor para aprender sobre la capacitación y el ajuste de LLM para la producción. "Si desea aprender a entrenar y ajustar a los LLM desde cero y tener un conocimiento intermedio de Python, así como acceso a recursos de cómputo moderados (¡para algunos casos, solo un Google Colab es suficiente!), Deberían estar configurados para tomar y completar el curso. Este curso está diseñado con una amplia audiencia en la mente, incluidos los principiantes en la IA, los ingenieros de aprendizaje de máquina actuales, los estudiantes y los profesionales considerando una transición de la carrera a AI para AI para AI. Adaptar modelos de idiomas grandes en una amplia gama de industrias para hacer que la IA sea más accesible y práctica ".
- El Tutorial y Comunidad ML del mundo real - Pagado
Un recordatorio. ¡La mejor manera de aprender es construir algo! Realmente me propuso aprender haciendo. Esos cursos son geniales pero opcionales. Puede hacerlo por su cuenta, y la mayoría de las empresas que proporcionan recursos para trabajar con LLMS (OpenAI, Langchain, Activeloop, Cohere, W&B ...) tienen excelentes tutoriales para que comience y construyan algo. ¡Entonces, puede pedirle a ChatGPT que lo ayude a terminarlo!
Incitación
La solicitud es una nueva habilidad importante para aprender tanto para usar los modelos como para construir aplicaciones relacionadas con PNL.
- ¿Qué está provocando? Hablando con modelos de IA ... - gratis
- Chatgpt Ingeniería rápida para desarrolladores - Pagado
- Aprenda a la solicitud: este es un excelente curso gratuito que tiene la intención de enseñar y dar consejos para modelos específicos. ¡Es todo lo que necesitas para solicitar!
- Técnicas para mejorar la fiabilidad: el libro de cocina de OpenAI sobre técnicas de incorporación.
Más sobre la generación aumentada de recuperación (trapo) y ajuste fino
La mayoría de las personas crean aplicaciones basadas en trapo actualmente. Aquí hay algunos recursos que me encantó hacer que comenzaras y entendí una buena comprensión ...
- Una encuesta de técnicas para maximizar el rendimiento de LLM: videos increíbles por OpenAI cubriendo cuándo usar ingeniería rápida, trapo o ajuste fino. ¡Esta es una visita obligada para todos en el campo!
- Rag vs Fin-Auting vs Deep Memory vs Training LLM desde cero: cuándo hacer lo que con LLMS-Simlarmente, este es un breve video que cubre cuando debe usar trapo, ajuste o ingeniería rápida en sus aplicaciones.
- Construyendo un chatbot de preguntas y respuestas usando GPT e incrustaciones - Tutorial de YouTube aplicado por Jeremy Pinto.
- Cómo crear una IA que pueda responder preguntas sobre su sitio web: tutorial gratuito de Operai.
- Desde principiantes hasta desarrolladores avanzados de LLM, por AI. "¡Construya su primer producto escalable con LLMS, solicitantes, trapo, ajuste y agentes! Master las habilidades que las principales compañías necesitan y construyen su propio MVP de LLM avanzado con aplicaciones del mundo real".
- Cómo construir una aplicación web de ChatGPT basada en trapo: Conozca a nuestro nuevo tutor de IA-Introducción de YouTube sobre cómo construí un chatbot basado en trapo (y cómo también puede).
- Capacitación y LLMS para la producción: aprenda a entrenar y ajustar los LLM desde cero.
- Entrena y despliegue un asesor financiero en tiempo real-Curso práctico de LLMS por Paul Iusztin, Pau Labarta Bajo y Alexandru Razvant.
- Recuperación de la generación aumentada para la producción con Langchain y Llamaindex: ya sea que planee construir una aplicación de chat con la aplicación de datos para su organización o simplemente aprender a aprovechar la IA generativa en varias industrias, este curso es para usted. El curso aborda cuestiones críticas, como aumentar la precisión de la recuperación, reducir las alucinaciones en las salidas de IA, mejorar la explicabilidad, abordar las preocupaciones de los derechos de autor y ofrecer entradas de datos más personalizadas y actualizadas. Vamos más allá de las aplicaciones básicas de RAG, equipándolo con las habilidades para crear productos más complejos y confiables con herramientas como Langchain, Llamaindex y Memoria profunda. Enfatizando el aprendizaje práctico, este curso es una puerta de entrada para dominar técnicas y aplicaciones avanzadas de trapo en escenarios del mundo real.
- Building LLMS para la producción: Mejora de las habilidades de LLM y la confiabilidad con la solicitud, el ajuste y el trapo hacia AI. "Descubra las pilas tecnológicas clave para adaptar modelos de idiomas grandes a aplicaciones del mundo real, incluidas la ingeniería rápida, el ajuste de fino y la generación de aumentos de recuperación". (O obtenga el libro electrónico aquí. ¡Puede DM por un buen descuento!)
Más recursos
¡Únete a las comunidades!
Un servidor de discordia con muchos entusiastas de la IA: aprenda juntos, hagan preguntas, encuentre compañeros de equipo de Kaggle, compartan sus proyectos y más.
Un servidor de discordias donde puede mantenerse al día con las últimas noticias de la IA: manténgase actualizado con las últimas noticias de IA, hacer preguntas, compartir sus proyectos y mucho más.
Aprenda que solicite la comunidad Discord: chatee con otros ingenieros rápidos.
Siga las comunidades de Reddit: haga preguntas, comparta sus proyectos, siga las noticias y más.
- Artificial - inteligencia artificial
- MachineLearning - Aprendizaje automático (subreddit más grande del campo)
- Deeplearningpapers - Documentos de aprendizaje profundo
- Computervision: extraer información útil de imágenes y videos
- LearnMachInelearning - Aprender el aprendizaje automático
- ArtificialInteligence - AI
- Latsestinml - desarrollos que cambian el juego en el aprendizaje automático que no deberías perderte
¡Sigue las noticias en el campo!
Encuentra un trabajo de aprendizaje automático
- Lea esta sección del artículo lleno de consejos de entrevistas y cómo prepararse para ellos .
- Aprenda cómo va el proceso de la entrevista y mejorando para prepararse para ellos observando cómo lo hicieron los demás, como la serie de entrevistas que ejecuté con expertos de Nvidia, Zoox (empresa de conducción autónoma), D-ID (inicio de IA generativo), etc.
AI Ética
- ¿Qué son la ética y por qué importan? Edición de aprendizaje automático - por Rachel Thomas, fundadora de Fast.ai
- AI4People - Un marco ético para una buena sociedad de IA: oportunidades, riesgos, principios y recomendaciones - Floridi et al., 2018, AI4People AI para una buena sociedad
- Directrices de ética para la IA confiable: la Comisión Europea del Grupo de Expertos de Alto nivel 7 puntos para una IA confiable.
- Una introducción a la ética en robótica y ai: un libro electrónico gratuito de Christoph Bartneck, Christoph Lütge, Alan Wagner y Sean Welsh.
Aprenda más y haga más ... con LLMS
Chatgpt, Bing, Claude ... son increíbles. Por supuesto, tienen limitaciones. Sin embargo, puedes aprovecharlos para que aprendan lo que quieras. Lo uso para codificar o hacer muchas preguntas en general. Debe verificar cuando haga preguntas importantes. Aún así, es una herramienta poderosa. Sí, es una herramienta, no un reemplazo humano. Úselo como un asistente tonto que conozca casi todo.
Aquí hay un claro ejemplo de cómo lo usé para un proyecto para comprender mejor una función de un proyecto con el que no estaba familiarizado. Esto es para Python, pero esos modelos son extremadamente potentes para codificar en general, comprender nuevas plataformas (como AWS, GCP, trabajar con una máquina virtual, un servidor, conexiones SSH, etc. Cualquier cosa con la que no esté familiarizado que sea útil en el espacio LLM).
PD: No mencioné a Bing y Claude por diversión. No dependa demasiado de una sola empresa como OpenAI. Hay (y siempre habrá) otras compañías en la lucha por el mejor LLM. Quería crear un ejemplo para la guía esta mañana cuando ...
¡Etiquetame en Twitter @Whats_ai o LinkedIn @louis Bouchard si comparte la lista!
? Si desea apoyar mi trabajo , puede verificar para patrocinar este repositorio o apoyarme en Patreon.
Esta guía todavía se actualiza regularmente.
