start llms

Начните с крупных языковых моделей (LLMS) - станьте экспертом бесплатно!

Полное руководство по началу и улучшению ваших навыков LLM в 2024 году без продвинутого опыта в этой области и в курсе последних новостей и современных методов!

Во -первых, если у вас есть 0 программирования или знаний по ИИ, следуйте этому руководству, которое я сделал для этой цели, и вернитесь сюда!

Это руководство предназначено для всех, у кого есть небольшой опыт в программировании и машинном обучении. Не существует конкретного порядка, но классический путь будет сверху вниз. Если вам не нравится читать книги, пропустите их. Если вы не хотите следовать онлайн -курсу, вы также можете пропустить его. Не существует ни одного способа стать экспертом по машинному обучению, и с мотивацией вы можете абсолютно достичь этого.

Все ресурсы, перечисленные здесь, являются бесплатными, за исключением некоторых онлайн -курсов и книг, которые, безусловно, рекомендуются для лучшего понимания, но определенно можно стать экспертом без них, при этом немного больше времени потрачено на онлайн -чтения, видео и практику. Когда дело доходит до оплаты курсов, ссылки в этом руководстве являются аффилированными ссылками. Пожалуйста, используйте их, если вам хочется следовать за курсом, так как он будет поддерживать меня. Спасибо и получайте удовольствие! Помните, что это полностью зависит от вас и не обязательно. Я чувствовал, что это было полезно для меня и, возможно, полезно для других.

Не бойтесь повторять видео или учиться из нескольких источников. Повторение - это ключ успеха в обучении!

Содействие: Louisfb01, также активный на YouTube и в качестве подкастера, если вы хотите увидеть/услышать больше об AI & LLMS! Вы также можете узнать больше два раза в неделю в моей личной рассылке!

Не стесняйтесь отправлять проблему для любых отличных ресурсов, чтобы добавить в этот репозиторий.

Оставьте меня в Twitter @Whats_ai или LinkedIn @louis Bouchard, если вы поделитесь списком!

Хотите знать, о чем это руководство? Посмотрите это видео:

Оглавление

• Пререквизиты
• Начните с коротких введения видео на YouTube в качестве первого шага
• LLM книги и статьи (для читателей)
• Следуйте онлайн -курсам
• Практикуйте, практикуйте и практикуйте!
• Подсказка
• Поиск дополненного поколения (Rag)
• Больше ресурсов (сообщества, чит -листы, новости и многое другое!)
• Как найти работу машинного обучения
• ЭТИКА ИИ
• Узнайте больше и делайте больше ... с LLMS

Пререквизиты

Если у вас есть 0 программирования или знаний по ИИ, следуйте этому руководству, которое я сделал для этой цели. Проверьте раздел Python в основном, а затем у вас будет достаточно сильный фон, чтобы вернуться сюда!

Если вы немного знакомы с Python и AI, то я желаю вам счастливого обучения!

Начните с коротких введения видео на YouTube в качестве первого шага

Начните с коротких видеороликов на YouTube

Это лучший способ начать с ничего. Здесь я перечисляю несколько лучших видео, которые я нашел, которые дадут вам отличное первое введение в условия, которые вам нужно знать, чтобы начать работу в области LLM.

• Понимание терминологии
  • Освоение жаргона AI - ваше руководство по терминам Openai & LLM - Луи Бушар - быстрое введение в наиболее используемые термины в мире LLM (или GPT).
• Понимание трансформаторов и LLMS (т.е. модели за CHATGPT)!
  • Вступление в большие языковые модели - удивительный 1 -часовой разговор от Андрея Карпати.
  • Обработка естественного языка и модели крупных языков - Удивительное видео введение в механизм внимания, токены, встраивание и многое другое, чтобы лучше понять все за большими языковыми моделями, такими как GPT, Луис Серрано.
  • Что такое трансформаторные модели и как они работают? - Луис Серрано
  • Иллюстрированное слово2VEC - нежное вступление в встроение слова в машинном обучении - четкое объяснение вторжений слов в машинном обучении Джея Аламмара.
  • Руководство хакеров по языковым моделям - Джереми Ховард (Fast.ai).
  • Давайте построим GPT: с нуля, в коде, написано. - Андрей Карпати.

Еще один простой способ начать и продолжать учиться, - это слушать подкасты в свободное время. Поездка на работу, на автобусе или у вас возникли проблемы с засыпанием? Послушайте несколько подкастов искусственного интеллекта, чтобы привыкнуть к терминам и узорам, и узнайте о области с помощью вдохновляющих историй! Я приглашаю вас следовать за несколькими лучшими, которые я лично предпочитаю, например, Lex Fridman, Machine Learning Street Talk, и, очевидно, мой подкаст: подкаст Louis Bouchard, где вы узнаете о невероятно талантливых людях в поле с вдохновляющими историями, которые делятся знаниями, которые они так усердно работали, чтобы собраться. Новый, который мне очень нравится слушать, что меня обновляет, - это подкаст четверт моего друга Алекса Волкова.

Вот список замечательных курсов, доступных на YouTube, которые вы обязательно должны следовать, и на 100% бесплатно.

• LLM LLM LLM Бесплатные видео «Train & Fine-Tune LLMS для производственного курса от ActiveLoop, в направлении AI & Intel Disruptor». «Плейлист для нашего курса LLM: Gen AI 360: Сертификация основополагающей модели!»
• Создайте большую языковую модель с нуля с помощью Python - Tupormior - от Freecodecamp. «Узнайте, как создать свою собственную большую языковую модель с нуля. Этот курс входит в обработку данных, математику и трансформаторы, стоящие за большими языковыми моделями. Вы будете использовать Python».
• Университет LLM (LLMU) из Cohere - Cohere. Университет LLM (LLMU) представляет собой набор комплексных учебных ресурсов для всех, кто интересуется обработкой естественного языка (NLP), от начинающих до продвинутых учащихся.
• Механизм внимания в крупных языковых моделях - Луис Серрано. В этом видео сериале Луис объясняет, что архитектура трансформатора все чаще углубляется. Это очень хороший обзор и объяснение трансформаторов и механизма внимания, который, я считаю, следует наблюдать все профессионалы ИИ.

LLM книги и статьи (для читателей)

Если вы предпочитаете статью и путь чтения, вот несколько предложений:

• Строительство LLM для производства: повышение способностей LLM и надежности с помощью подсказки, тонкой настройки и тряпичной ткани к ИИ. «Откройте для себя ключевые технологические стеки для адаптации больших языковых моделей к реальным приложениям, включая быстрое инженерное образование, тонкую настройку и генерацию увеличения поиска». (Или получите электронную книгу здесь. Вы можете привести меня к хорошей скидке!)
• Иллюстрированный трансформатор - Джея Аламара. Это известная статья, предоставляющая удивительное объяснение того, как работают текущие языковые модели.
• Практическое введение в LLMS - Шохин Талеби.
• Medium - это лучшее место, где можно найти отличные объяснения, либо в отношении ИИ, либо к публикациям в области данных. Я также делюсь там своими собственными статьями, и я люблю использовать платформу. Вы можете подписаться на Medium, используя мою аффилированную ссылку здесь, если это звучит интересно для вас, и если вы хотите поддержать меня одновременно!
• Списки чтения для новых студентов Мила - анонимные
• Полная дорога для мастера НЛП в 2022 году
• Книга NLTK - это бесплатный ресурс, чтобы узнать о фундаментальных теориях NLP: https://www.nltk.org/book/
• Аннотированный трансформатор - Гарвард

Следуйте онлайн -курсам

Если вам нравится еще какое -то руководство, я могу посоветовать проверить (необязательно) онлайн -курсы, такие как ...

• Генеративный ИИ с большими языковыми моделями - оплачиваемые
• Станьте NLP Pro со специализацией по обработке естественного языка Coursera с помощью Deeplearning.ai - оплачивается
• Курс Gradio - Создайте пользовательские интерфейсы для моделей машинного обучения - Freecodecamp - бесплатно
• Train & Fine -Tune LLMS для производственного курса от ActiveLoop, в направлении AI & Intel Disruptor - БЕСПЛАТНО
• Университет LLM от Cohere - бесплатно
• От начинающих до продвинутого разработчика LLM - к ИИ. «Создайте свой первый масштабируемый продукт с LLMS, подсказкой, тряпкой, тонкой настройкой и агентами! Отвечайте навыкам, которые нуждаются в лучших компаниях и создайте свой собственный Advanced LLM MVP с реальными приложениями».
• Станьте NLP Pro со специализацией по обработке естественного языка Coursera с помощью Deeplearning.ai-заплатил «Перерыв в пространство НЛП. Мастерные передовые методы НЛП через четыре практических курса!»
• Степень NLP Nano! -Оплаченные «Узнайте передовые методы обработки естественного языка для обработки речи и анализа текста. Создайте вероятностные и глубокие модели глубокого обучения, такие как скрытые модели Маркова и повторяющиеся нейронные сети, чтобы научить компьютер выполнять такие задачи, как распознавание речи, машинный перевод и многое другое!»
• Введение в крупные языковые модели с Google Cloud - оплачен
• Научитесь тренировать, настраивать и использовать LLMS в ваших приложениях. - Бесплатно по весам и уклонам
• Большие языковые модели с семантическим поиском - бесплатный, Deeplearning.ai и Cohere

Вы можете легко Google для большего, но после прочтения и просмотра их, я считаю, что у вас уже есть достаточно хорошее понимание LLM, чтобы заключить реальную сделку: практика.

Практикуйте, практикуйте и практикуйте!

Практика - это ключ

Самая важная вещь в программировании - это практика. Это относится и к машинному обучению. Может быть трудно найти личный проект для практики. Я настоятельно рекомендую вам попытаться создать что -то самостоятельно, но я понимаю, что это может быть пугающим. Тогда я бы посоветовал пройти один или два чрезвычайно прикладных курса и использовать ресурс для создания собственного проекта на основе примеров, которые они вам предоставляют, и CHATGPT или GitHub Copilot, чтобы работать для вас в качестве ассистента кода для остальной части работы.

Вот несколько самых прикладных курсов, которые я мог найти для LLMS:

• В поисках создания модели быстрого классификации текста или векторизатора слов, FastText - это хорошая библиотека для быстрого обучения модели.
• Huggingface - это место, где можно получить современные модели НЛП, и они также включают в себя целый курс об этом.
• Базы данных Langchain & Vector в производстве - удивительный бесплатный ресурс, который мы создали для AI в партнерстве с ActiveLoop и инициативой Intel Disruptor, чтобы узнать о базах данных Langchain & Vector в производстве. «Независимо от того, являетесь ли вы опытным разработчиком, который является новичком в области ИИ или опытного энтузиаста машинного обучения, этот курс предназначен для вас. Наша цель - сделать ИИ доступным и практичным, трансформируя то, как вы подходите к своим ежедневным задачам и общему воздействию вашей работы».
• Training & Fine-Tuning LLMS для производства-удивительный бесплатный ресурс, который мы создали для AI в партнерстве с ActiveLoop и инициативой Intel Disruptor, чтобы узнать о Training & Fine-Tuning LLM для производства. «Если вы хотите научиться обучать и настраивать LLM с нуля и обладать промежуточными знаниями на питоне, а также доступа к умеренным начиненным ресурсам (для некоторых случаев будет достаточно просто колаба Google!) Большие языковые модели в широком спектре отраслей, чтобы сделать ИИ более доступным и практичным ».
• Реальное учебник ML и сообщество - оплачиваемое

Напоминание. Лучший способ научиться - это что -то построить! Я действительно склонен учиться, делая. Эти курсы отличные, но необязательны. Вы можете сделать это самостоятельно, и большинство компаний, предоставляющих ресурсы для работы с LLMS (OpenAI, Langchain, ActiveLoop, Cohere, W & B ...), имеют отличные учебные пособия, чтобы начать и построить что -то. Затем вы можете попросить Chatgpt помочь вам закончить!

Подсказка

Подсказка является важным новым навыком, чтобы узнать как для использования моделей, так и для создания приложений, связанных с НЛП.

• Что подсказывает? Разговор с моделями ИИ ... - БЕСПЛАТНО
• CHATGPT QUATGPT Engineering для разработчиков - оплачивается
• Учитесь подсказкой - это отличный бесплатный курс, намеревающий преподавать подсказка и дать советы для конкретных моделей. Это все, что вам нужно для подсказки!
• Методы повышения надежности - поваренная книга Openai по методам подсказки.

Подробнее о получении добычи (RAG) и точной настройки

Большинство людей строят приложения на основе тряпки в настоящее время. Вот несколько ресурсов, которые я любил, чтобы вы начали, и хорошо понимали это ...

• Обследование методов максимизации производительности LLM - удивительное видео от Openai, охватывающее, когда использовать быструю технику, тряпку или тонкую настройку. Это обязательно нужно для всех в полевых условиях!
• Rag vs Fine-Muning vs Deep Memory vs Training LLM с нуля: когда делать то, что с LLMS-cimlarly, это короткое видео, покрывающее, когда вам следует использовать тряпку, тонкую настройку или быстрое разработку в своих приложениях.
• Создание Q & A Chatbot с использованием GPT и Entgeddings - Applied YouTube Учебник Джереми Пинто.
• Как построить ИИ, который может ответить на вопросы о вашем веб -сайте - бесплатное руководство Openai.
• От начинающих до продвинутого разработчика LLM - к ИИ. «Создайте свой первый масштабируемый продукт с LLMS, подсказкой, тряпкой, тонкой настройкой и агентами! Отвечайте навыкам, которые нуждаются в лучших компаниях и создайте свой собственный Advanced LLM MVP с реальными приложениями».
• Как построить веб-приложение Catgpt на основе Ragpt: встретить нашего нового репетитора искусственного интеллекта-введение YouTube о том, как я создал чат-бот на основе тряпки (и как вы можете тоже).
• Training & Fine-Tuning LLMS для производства-научитесь тренировать и настраивать LLM с нуля с нуля.
• Обучать и развернуть финансовый консультант в реальном времени-практическое курс LLMS Пола Иуштина, Пабарта Баджо и Александру Развант.
• Поиск дополненного поколения для производства с Langchain & LmamainDex - будь то планирование построить чат с приложением данных для вашей организации или просто изучение того, как использовать генеративный ИИ в различных отраслях, этот курс для вас. Курс решает критические вопросы, такие как повышение точности поиска, снижение галлюцинаций в результатах ИИ, повышение объяснения, решение проблем с авторскими правами и предложение более индивидуальных, актуальных входов данных. Мы выходим за рамки базовых приложений RAG, предоставляя вам навыки для создания более сложных, надежных продуктов с такими инструментами, как Langchain, LmamainDex и Deep Memory. Подчеркивая практическое обучение, этот курс представляет собой шлюз для освоения передовых методов и приложений в реальных сценариях.
• Строительство LLM для производства: повышение способностей LLM и надежности с помощью подсказки, тонкой настройки и тряпичной ткани к ИИ. «Откройте для себя ключевые технологические стеки для адаптации больших языковых моделей к реальным приложениям, включая быстрое инженерное образование, тонкую настройку и генерацию увеличения поиска». (Или получите электронную книгу здесь. Вы можете привести меня к хорошей скидке!)

Больше ресурсов

Присоединяйтесь к сообществам!

• Сервер Discord со многими энтузиастами искусственного интеллекта - учитесь вместе, задавайте вопросы, найдите товарищей по команде Kaggle, поделитесь своими проектами и многим другим.

• Сервер Discord, где вы можете быть в курсе последних новостей искусственного интеллекта-будьте в курсе последних новостей искусственного интеллекта, задавать вопросы, делиться своими проектами и многое другое.

• Изучите сообщество Discord - поговорите с коллегами -инженерами.

• Следуйте за сообществами Reddit - задавайте вопросы, поделитесь своими проектами, следуйте новостям и многим другим.

  • искусственный - искусственный интеллект
  • Машинелонирование - машинное обучение (самый большой субреддит поля)
  • DeeplearningPapers -
  • Computerervision - Извлечение полезной информации из изображений и видео
  • Learnmachinelearning - изучать машинное обучение
  • Искусственная интеллектуальность - ай
  • Latsestinml - изменяющие игру разработки в области машинного обучения, вы не должны пропустить

Следуйте новостям в поле!

• Подпишитесь на каналы YouTube, которые делятся новыми статьями - будьте в курсе новостей в этой области!

  • Louis Bouchard - Еженедельные видеоролики, освещающие новые бумаги
  • Две минуты бумаги - видео в две недели, охватывающие новые документы
  • ByCloud - Еженедельные видеоролики, освещающие новые документы

• LinkedIn Groups

  • Искусственный интеллект, машинное обучение и новости о глубоком обучении - новости о области, разделенные всеми в группе
  • Искусственный интеллект | Глубокое обучение | Машинное обучение
  • Прикладной искусственный интеллект

• Группы Facebook

  • Искусственный интеллект и глубокое обучение - окончательная и наиболее активная группа FB по ИИ, нейронным сетям и глубокому обучению. Все новые и интересные на границе ИИ и глубокого обучения. Нейронные сети переопределят то, что значит быть умной машиной в ближайшие годы.
  • Глубокое обучение - в настоящее время общество, как правило, является мягким и автоматизированным, развивающимся в 4 -й промышленной революции, которая, следовательно, приводит избирателей в вихрь общества. Чтобы выжить или взять лидерство, должен быть оснащен связанными инструментами. Машина становится умнее и умнее. Машинное обучение - это неизбежный навык, и это требует, чтобы люди знакомы. Эта группа предназначена для этих людей, которые интересуются развитием своих талантов.

• Информационные бюллетени

  • Синхронизированные технологии ИИ и промышленность - ведущий китайский поставщик медиа и информации для ИИ и машинного обучения.
  • Внутри искусственного интеллекта - ежедневное обзор историй и комментариев о искусственном интеллекте, робототехнике и нейротехнологии.
  • AI Weekly - еженедельная коллекция новостей и ресурсов ИИ по искусственному интеллекту и машинному обучению.
  • ETICS ETHICS WEEKLY - Последние обновления в этике искусственной интеллекта, доставленные в ваш почтовый ящик каждую неделю.
  • Louis Bouchard Weekly - одна и только одна статья, четко объясняла еженедельно с статьей, видео демо, демонстрацией, кодом и т. Д.
  • Четверг - Резюме самых высокопроизводительных еженедельных пространств AI!
  • На пути к информационному бюллетеню в области ИИ - суммирование самых интересных новостей и учебных ресурсов еженедельно, а также обновления сообщества из сообщества Discord Learn Ai вместе. Идеально подходит для профессионалов ML и энтузиастов.
  • Партия - Andrew Ng / deeplearning.ai

• Следуйте средним публикациям

  • На пути к науке о данных - «Обмен концепциями, идеями и кодами»
  • На пути к AI - «Лучший из технических, науки и инженерии».
  • Onezero - «Подводные течения будущего. Средняя публикация о технологиях и науке».

Найдите работу по машинному обучению

• Прочитайте этот раздел из статьи, полной советов по интервью и как подготовиться к ним .
• Узнайте, как проходит процесс интервью и поправляться в подготовке к ним, наблюдая за тем, как это делали другие, например, серия интервью, которые я провел с экспертами из NVIDIA, Zoox (Company Self-Diving), D-ID (Generative AI Startup) и т. Д.

ЭТИКА ИИ

• Что такое этика и почему они имеют значение? Издание машинного обучения - Рэйчел Томас, основатель Fast.ai
• AI4people - этическая основа для хорошего общества ИИ: возможности, риски, принципы и рекомендации - Floridi et al., 2018, AI4people AI для хорошего общества
• Руководство по этике для заслуживающей доверия ИИ - Европейская комиссия Высокоуровневая группа экспертов 7 баллов за заслуживающий доверия ИИ.
• Введение в этику в робототехнике и AI - бесплатная электронная книга Кристофа Барнека, Кристофа Лютге, Алана Вагнера и Шона Уэлша.

Узнайте больше и делайте больше ... с LLMS

Чатгпт, Бинг, Клод ... невероятные. Конечно, у них есть ограничения. Тем не менее, вы можете использовать их для изучения всего, что вы хотите. Я использую его для кодирования или задаю много вопросов в целом. Вам нужно дважды проверить, когда вы задаете важные вопросы. Тем не менее, это мощный инструмент . Да, это инструмент, а не человеческая замена. Используйте его как тупой помощник, который знает почти обо всем.

Вот явный пример того, как я использовал его для проекта, чтобы лучше понять функцию из проекта, с которым я не был знаком. Это для Python, но эти модели чрезвычайно мощны для кодирования в целом, понимание новых платформ (например, AWS, GCP, работа с виртуальной машиной, сервером, SSH -соединениями и т. Д. .... Все, с чем вы не знакомы, это полезно в пространстве LLM).

PS Я не упоминал Бинг и Клод для развлечения. Не будьте чрезмерно зависеть от одной компании, такой как Openai. Есть (и всегда будут) другие компании в борьбе за лучшую LLM. Я хотел создать пример для руководства сегодня утром, когда ...

---

Оставьте меня в Twitter @Whats_ai или LinkedIn @louis Bouchard, если вы поделитесь списком!

? Если вы хотите поддержать мою работу , вы можете проверить, чтобы спонсировать этот репозиторий или поддержать меня в Patreon.

Это руководство все еще регулярно обновляется.