machine learning for software engineers

Нисходящий путь обучения: машинное обучение для инженеров-программистов

Вдохновлен университетом Coding Interview.

Переводы: Бразильский португальский | 中文版本 | Французский | 臺灣華語版本

Как я (Нам Ву) планирую стать инженером по машинному обучению

Что это такое?

Это мой многомесячный план обучения от мобильного разработчика (самоучка, без степени CS) до инженера по машинному обучению.

Моей главной целью было найти такой подход к изучению машинного обучения, который был бы в основном практическим и абстрагировал бы большую часть математики для новичка. Этот подход является нетрадиционным, поскольку это нисходящий и ориентированный на результат подход, предназначенный для инженеров-программистов.

Пожалуйста, не стесняйтесь вносить любой вклад, который, по вашему мнению, сделает ситуацию лучше.

---

Оглавление

• Что это такое?
• Зачем его использовать?
• Как его использовать
• Подписывайтесь на меня
• Не думай, что ты недостаточно умен
• О видеоресурсах
• Предварительные знания
• Ежедневный план
• Мотивация
• Обзор машинного обучения
• Мастерство машинного обучения
• Машинное обучение — это весело
• Чернильное машинное обучение
• Машинное обучение: подробное руководство
• Истории и опыт
• Алгоритмы машинного обучения
• Книги для начинающих
• Практические книги
• Соревнования знаний Kaggle
• Видео серии
• МООК
• Ресурсы
• Стать участником открытого исходного кода
• Игры
• Подкасты
• Сообщества
• Конференции
• Вопросы для собеседования
• Мои любимые компании

---

Зачем его использовать?

Я следую этому плану, чтобы подготовиться к своей будущей работе: инженер по машинному обучению. Я занимаюсь разработкой собственных мобильных приложений (Android/iOS/Blackberry) с 2011 года. У меня степень инженера-программиста, а не компьютерных наук. У меня есть небольшой объем базовых знаний по исчислению, линейной алгебре, дискретной математике, теории вероятностей и статистике из университета. Подумайте о моем интересе к машинному обучению:

• Могу ли я выучиться и получить работу в области машинного обучения, не изучая магистра CS и доктора философии?
  • «Можешь, но это гораздо сложнее, чем когда я вышел на поле боя». Драк Смит
• Как мне получить работу в области машинного обучения в качестве программиста, который самостоятельно изучает машинное обучение, но никогда не имеет возможности использовать его на работе?
  • «Я нанимаю экспертов по машинному обучению в свою команду, и ваш MOOC не даст вам работу (ниже есть новости получше). На самом деле, многие люди со степенью магистра в области машинного обучения не получат работу, потому что они (и большинство тех, кто прошли МООК) не имеют глубокого понимания, которое поможет мне решить мои проблемы». Росс С. Тейлор
• Какие навыки необходимы для работы в области машинного обучения?
  • «Во-первых, вам нужно иметь приличный опыт в области CS/Math. ML — это сложная тема, поэтому в большинстве учебников предполагается, что у вас есть этот опыт. Во-вторых, машинное обучение — это очень общая тема со многими подспециальностями, требующими уникальных навыков. Вы можете захотеть просмотреть учебную программу программы магистратуры по машинному обучению, чтобы увидеть курс, учебную программу и учебник». Ури
  • «Вероятность, распределенные вычисления и статистика». Гортензия

Я попадаю в трудные времена.

AFAIK, у машинного обучения есть две стороны:

• Практическое машинное обучение: речь идет о запросах к базам данных, очистке данных, написании сценариев для преобразования данных и объединении алгоритмов и библиотек, а также написании собственного кода для получения надежных ответов из данных для решения сложных и нечетких вопросов. Это беспорядок реальности.
• Теоретическое машинное обучение: речь идет о математике, абстракции, идеализированных сценариях, ограничениях, красоте и информировании о том, что возможно. Это намного аккуратнее, чище и удалено от беспорядка реальности.

Я думаю, что лучший способ использовать методологию, ориентированную на практику, — это что-то вроде «практика — обучение — практика», что означает, что студенты сначала приходят с некоторыми существующими проектами с проблемами и решениями (практика), чтобы ознакомиться с традиционными методами в этой области, а также, возможно, также со своей методологией. Попрактиковавшись на элементарном опыте, они могут обратиться к книгам и изучить лежащую в их основе теорию, которая послужит руководством для их дальнейшей продвинутой практики и расширит их набор инструментов для решения практических проблем. Изучение теории также улучшает понимание элементарного опыта и помогает быстрее приобрести более продвинутый опыт.

Это долгий план. Мне потребуются годы. Если вы уже знакомы со многим из этого, это займет у вас гораздо меньше времени.

Как его использовать

Все, что приведено ниже, представляет собой схему, и вам следует рассматривать пункты по порядку сверху вниз.

Я использую специальную версию уценки Github, включая списки задач для проверки прогресса.

• Создайте новую ветку, чтобы вы могли проверять такие элементы, просто поставьте x в скобки: [x]

Подробнее об уценке с использованием Github

Подписывайтесь на меня

Я вьетнамский инженер-программист, который очень увлечен этим и хочет работать в США.

Сколько я работал во время этого плана? Примерно 4 часа в сутки после долгого и тяжелого рабочего дня.

Я в путешествии.

• Твиттер: @Нам Ву

США, черт возьми

Не думай, что ты недостаточно умен

Меня разочаровывают книги и курсы, которые, как только я их открываю, говорят мне, что многомерное исчисление, инференциальная статистика и линейная алгебра являются обязательными условиями. Я до сих пор не знаю, с чего начать…

• Что делать, если я плохо разбираюсь в математике
• 5 методов понимания алгоритмов машинного обучения без знаний математики
• Как мне изучить машинное обучение?

О видеоресурсах

Некоторые видео доступны только после регистрации на курсах Coursera или EdX. Это можно сделать бесплатно, но иногда занятия прекращаются, поэтому вам приходится ждать пару месяцев, и у вас нет доступа. Я собираюсь добавлять больше видео из общедоступных источников и со временем заменять видео онлайн-курсов. Мне нравится использовать университетские лекции.

Предварительные знания

Этот короткий раздел состоит из предварительных условий и интересной информации, которую я хотел узнать, прежде чем приступить к ежедневному плану.

• В чем разница между аналитикой данных, анализом данных, интеллектуальным анализом данных, наукой о данных, машинным обучением и большими данными?
• Учимся, как учиться
• Не разрывайте цепь
• Как научиться самостоятельно

Ежедневный план

Чтобы полностью понять каждый предмет, не требуется целый день, и вы можете пройти несколько таких занятий за день.

Каждый день я беру одну тему из списка ниже, читаю ее от корки до корки, делаю заметки, делаю упражнения и пишу реализацию на Python или R.

Мотивация

• Мечтать

Обзор машинного обучения

• Визуальное введение в машинное обучение
• Нежное руководство по машинному обучению
• Введение в машинное обучение для разработчиков
• Основы машинного обучения для новичка
• Как вы объясните машинное обучение и интеллектуальный анализ данных людям, не связанным с компьютерными науками?
• Машинное обучение: под капотом. Сообщение в блоге объясняет принципы машинного обучения простым языком. Просто и понятно
• Что такое машинное обучение и как оно работает?
• Как стать инженером по машинному обучению?
• [] Глубокое обучение – нетехническое введение [удаленный]

Мастерство машинного обучения

• Метод освоения машинного обучения
• Машинное обучение для программистов
• Прикладное машинное обучение с освоением машинного обучения
• Мини-курс машинного обучения Python
• Мини-курс «Алгоритмы машинного обучения»

Машинное обучение — это весело

• Машинное обучение — это весело!
• Часть 2. Использование машинного обучения для создания уровней Super Mario Maker
• Часть 3: Глубокое обучение и сверточные нейронные сети
• Часть 4. Современное распознавание лиц с помощью глубокого обучения
• Часть 5: Языковой перевод с глубоким обучением и магией последовательностей
• Часть 6. Как распознавать речь с помощью глубокого обучения
• Часть 7. Злоупотребление генеративно-состязательными сетями для создания 8-битной пиксельной графики
• Часть 8: Как намеренно обмануть нейронные сети

Чернильное машинное обучение

• Часть 1. Что такое машинное обучение?
• Часть 2: Обучение с учителем и обучение без учителя

Машинное обучение: подробное руководство

• Обзор, цели, типы обучения и алгоритмы
• Выбор, подготовка и моделирование данных
• Оценка модели, проверка, сложность и улучшение
• Производительность модели и анализ ошибок
• Обучение без учителя, смежные области и машинное обучение на практике

Истории и опыт

• Машинное обучение за неделю
• Машинное обучение за год
• Как я написал свою первую программу машинного обучения за 3 дня
• Путь обучения: Ваш наставник станет экспертом в области машинного обучения.
• Вы тоже можете стать рок-звездой машинного обучения! Нет доктора философии
• Как стать Data Scientist за 6 месяцев: хакерский подход к планированию карьеры
  • Видео
  • Слайд
• 5 навыков, которые вам нужны, чтобы стать инженером по машинному обучению
• Вы инженер-самоучка по машинному обучению? Если да, то как вы это сделали и сколько времени это заняло?
• Как стать хорошим инженером по машинному обучению?
• Учебный отпуск, посвященный машинному обучению

Алгоритмы машинного обучения

• 10 алгоритмов машинного обучения, объясненные «армейскому солдату»
• 10 лучших алгоритмов интеллектуального анализа данных на простом английском языке
• 10 терминов машинного обучения, объясненных простым английским языком
• Обзор алгоритмов машинного обучения
• 10 алгоритмов, которые должны знать инженеры машинного обучения
• Сравнение алгоритмов контролируемого обучения
• Алгоритмы машинного обучения: коллекция минимальных и чистых реализаций алгоритмов машинного обучения.
• Алгоритм KNN в машинном обучении

Книги для начинающих

• Data Smart: использование науки о данных для преобразования информации в Insight, 1-е издание
• Наука о данных для бизнеса: что нужно знать об интеллектуальном анализе данных и аналитическом мышлении
• Предиктивная аналитика: возможность предсказать, кто кликнет, купит, солжет или умрет

Практические книги

• Машинное обучение для хакеров
  • Репозиторий GitHub(R)
  • Репозиторий GitHub (Python)
• Машинное обучение Python
  • Репозиторий GitHub
• Программирование коллективного разума: создание приложений Smart Web 2.0
• Машинное обучение: алгоритмическая перспектива, второе издание
  • Репозиторий GitHub
  • Репозиторий ресурсов
• Введение в машинное обучение с помощью Python: руководство для специалистов по данным
  • Репозиторий GitHub
• Интеллектуальный анализ данных: практические инструменты и методы машинного обучения, третье издание
  • Учебный материал
    • Слайды к главам 1–5 (zip)
    • Слайды к главам 6–8 (zip)
• Машинное обучение в действии
  • Репозиторий GitHub
• Реактивные системы машинного обучения (MEAP)
  • Репозиторий GitHub
• Введение в статистическое обучение
  • Репозиторий GitHub(R)
  • Репозиторий GitHub (Python)
  • Видео
• Создание систем машинного обучения с помощью Python
  • Репозиторий GitHub
• Изучение scikit-learn: машинное обучение на Python
  • Репозиторий GitHub
• Вероятностное программирование и байесовские методы для хакеров
• Вероятностные графические модели: принципы и методы
• Машинное обучение: практическое руководство для разработчиков и технических специалистов
  • Обзор практического руководства по машинному обучению для разработчиков и технических специалистов
  • Репозиторий GitHub
• Обучение на данных
  • Онлайн-уроки
• Обучение с подкреплением: Введение (2-е издание)
  • Репозиторий GitHub
• Машинное обучение с TensorFlow (MEAP)
  • Репозиторий GitHub
• Как работает машинное обучение (MEAP)
  • Репозиторий GitHub
• Успех с ИИ

Соревнования знаний Kaggle

• Соревнования Kaggle: как и с чего начать?
• Как новичок использовал небольшие проекты, чтобы начать заниматься машинным обучением и соревноваться на Kaggle
• Мастер Kaggle, постоянно соревнуясь

Видео серии

• Машинное обучение для хакеров
• Свежее машинное обучение
• Рецепты машинного обучения с Джошем Гордоном
• Все, что вам нужно знать о машинном обучении за 30 минут или меньше
• Дружественное введение в машинное обучение
• Основы применения глубокого обучения - Эндрю Нг
• Вебинар BigML
  • Видео
  • Ресурсы
• Учебные пособия по машинному обучению от MathematicMonk
• Машинное обучение на Python с помощью scikit-learn
  • Репозиторий GitHub
  • Блог
• Мой плейлист — лучшие видео YouTube о машинном обучении, нейронных сетях и глубоком обучении
• 16 новых руководств и курсов по машинному обучению, которые стоит посмотреть
• DeepLearning.TV
• Учимся видеть
• Класс нейронных сетей - Университет Шербрука
• 21 видео, обучающие материалы и курсы по глубокому обучению на Youtube с 2016 года
• 30 лучших видеороликов, руководств и курсов по машинному обучению и искусственному интеллекту с 2016 года
• Практическое глубокое обучение для программистов
• Практическое глубокое обучение для программистов, версия 2 (PyTorch)

МООК

• Искусственный интеллект Coursera для всех
• Введение edX в искусственный интеллект (ИИ)
• Введение Udacity в машинное обучение
  • Обзор Udacity: введение в машинное обучение
• Контролируемое, неконтролируемое и подкрепление Udacity
• Основы машинного обучения: подход к тематическому исследованию
• Основы машинного обучения и искусственного интеллекта: оценки стоимости
• Практическое обучение Kaggle в области науки о данных
• Профессиональная программа Microsoft по искусственному интеллекту
• Машинное обучение Coursera
  • Только видео
  • Обзор машинного обучения Coursera
  • Coursera: Дорожная карта машинного обучения
• Машинное обучение в чистом виде
• Обучение BigML
• Нейронные сети Coursera для машинного обучения
  • Преподает Джеффри Хинтон, пионер в области нейронных сетей.
• Машинное обучение – CS – Оксфордский университет
• Творческие приложения глубокого обучения с TensorFlow
• Введение в описательную статистику
• Введение в логическую статистику
• 6.S094: Глубокое обучение для беспилотных автомобилей
• 6.S191: Введение в глубокое обучение
• Глубокое обучение Coursera

Ресурсы

• Абсолютное начало машинного обучения
• Изучите машинное обучение за один месяц
• Нетехническое руководство по машинному обучению и искусственному интеллекту
• Ресурсы для изучения машинного обучения, созданные сообществом программистов
• Книга правил передового опыта в области машинного обучения от Google
• Машинное обучение для инженеров-программистов на Hacker News
• Машинное обучение для разработчиков
• Машинное обучение для людей??
• Советы по машинному обучению для разработчиков
• Машинное обучение для начинающих
• Начало работы с машинным обучением: для начинающих и пятиклассников.
• Как изучить машинное обучение: способ самостоятельного старта
• Ресурсы для самообучения по машинному обучению
• Повышайте уровень своего машинного обучения
• Честное руководство по машинному обучению
• Достаточно машинного обучения, чтобы хакерские новости снова стали читабельными
  • Видео
  • Слайд
• Погрузитесь в машинное обучение
• {Машинное, глубокое} обучение для инженеров-программистов
• Глубокое обучение для начинающих
• Основы глубокого обучения
• Mindmap/шпаргалка по машинному обучению
• Курсы машинного обучения в университетах
  • Стэнфорд
  • Летние школы машинного обучения
  • Оксфорд
  • Кембридж
• Темы флипборда
  • Машинное обучение
  • Глубокое обучение
  • Искусственный интеллект
• Средние темы
  • Машинное обучение
  • Глубокое обучение
  • Искусственный интеллект
• Топ-10 статей за месяц
  • Машинное обучение
  • Алгоритмы
• Полный список ресурсов по науке о данных
• Ресурсы DigitalMind по искусственному интеллекту
• Потрясающее машинное обучение
• Потрясающая классификация графов
• Потрясающее обнаружение сообщества
• Машинное обучение CreativeAi
• Дорожная карта машинного обучения
• Онлайн-курсы по машинному обучению

Игры

• Halite: игра по кодированию искусственного интеллекта
• Виндиниум: вызов программированию искусственного интеллекта
• Общий конкурс искусственного интеллекта в видеоиграх
• Конкурс искусственного интеллекта Angry Birds
• Игры с искусственным интеллектом
• Конкурс искусственного интеллекта в файтингах
• КодКубок
• Студенческий турнир по StarCraft AI
• Соревнования AIIDE по StarCraft AI
• Соревнования CIG StarCraft по искусственному интеллекту
• CodinGame - Игры с искусственным интеллектом

Стать участником открытого исходного кода

• tensorflow/magenta: Magenta: создание музыки и произведений искусства с помощью машинного интеллекта
• tensorflow/tensorflow: вычисления с использованием графов потоков данных для масштабируемого машинного обучения.
• cmusatyalab/openface: Распознавание лиц с помощью глубоких нейронных сетей.
• tensorflow/models/syntaxnet: нейронные модели синтаксиса.

Подкасты

• Подкасты для начинающих:

  • Говорящие машины
  • Линейные отступления
  • Скептик данных
  • Эта неделя посвящена машинному обучению и искусственному интеллекту
  • Руководство по машинному обучению

• Интервью с практиками, исследователями и исследователями ОД об их опыте

  • Наука о данных Chai Time, аудио, рецензии
  • Машинное обучение для начинающих - Интервью, Аудио

• «Больше» расширенных подкастов

  • Частично производная
  • Показ данных О'Рейли
  • Не такое уж стандартное отклонение

• Подкасты для нестандартного мышления:

  • Истории данных

Сообщества

• Кора

  • Машинное обучение
  • Статистика
  • Интеллектуальный анализ данных

• Реддит

  • Машинное обучение
  • Компьютерное зрение
  • Естественный язык
  • Наука о данных
  • Большие данные
  • Статистика

• Дата Тау

• Новости глубокого обучения

• КДнаггетс

Конференции

• Нейронные системы обработки информации (NIPS)
• Международная конференция по обучению представлений (ICLR)
• Ассоциация по развитию искусственного интеллекта (AAAI)
• Конференция IEEE по вычислительному интеллекту и играм (CIG)
• Международная конференция IEEE по машинному обучению и приложениям (ICMLA)
• Международная конференция по машинному обучению (ICML)
• Международные совместные конференции по искусственному интеллекту (IJCAI)
• Ассоциация компьютерной лингвистики (ACL)

Вопросы для собеседования

• Как подготовиться к собеседованию по машинному обучению
• 40 вопросов на собеседовании, заданных стартапам в области машинного обучения и науки о данных
• 21 вопрос и ответ на собеседовании по науке о данных, которые необходимо знать
• Топ-50 вопросов и ответов на собеседовании по машинному обучению
• Вопросы на собеседовании на инженера по машинному обучению
• Популярные вопросы на собеседовании по машинному обучению
• Каковы наиболее распространенные вопросы на собеседованиях по машинному обучению?
• Какие вопросы на собеседовании лучше всего подходят для оценки исследователя машинного обучения?
• Сборник вопросов для интервью по машинному обучению
• 121 важный вопрос и ответ по машинному обучению
• Минимальный жизнеспособный план обучения для собеседований по машинному обучению

Мои любимые компании

• ELSA – Ваш виртуальный тренер по произношению