GoogLeNet для классификации изображений

Реализация TensorFlow Going Deeper with Convolutions (CVPR'15).

Этот репозиторий содержит примеры классификации естественных изображений с использованием предварительно обученной модели, а также обучение начальной сети с нуля на наборе данных CIFAR-10 (точность 93,64% на тестовом наборе). Предварительно обученную модель на CIFAR-10 можно скачать здесь.
Архитектура GoogLeNet из статьи:

Требования

Питон 3.3+
ТензорФлоу 1.9+
Нампи
Сципи

Детали реализации

Модель GoogLeNet определена в src/nets/googlenet.py .
Модуль Inception определен в src/models/inception_module.py .
Пример классификации изображений с использованием предварительно обученной модели находится в examples/inception_pretrained.py .
Пример обучения сети с нуля на CIFAR-10 находится в examples/inception_cifar.py .

Для тестирования предварительно обученной модели

Перед подачей в модель изображения масштабируются так, чтобы наименьшая сторона была равна 224. Это не то же самое, что исходный документ, который представляет собой ансамбль из 7 похожих моделей, использующих для тестирования 144 кадра размером 224x224 на каждое изображение. Поэтому производительность будет не такой хорошей, как у оригинальной бумаги.

Для обучения с нуля на CIFAR-10

Все слои LRN удаляются из сверточных слоев.
Пакетная нормализация и активация ReLU используются во всех сверточных слоях, включая слои в начальной структуре, за исключением выходного слоя.
Как упоминалось в статье, используются два вспомогательных классификатора, хотя в двух полносвязных слоях используется 512 скрытых единиц вместо 1024 для сокращения вычислений. Однако я обнаружил, что результаты почти одинаковы на CIFAR-10 со вспомогательными классификаторами и без них.
Поскольку изображения 32 x 32 перед подачей в inception_5a подвергаются пониженной дискретизации до 1 x 1, это делает многомасштабную структуру начальных слоев менее полезной и ухудшает производительность (точность около 80% ). Чтобы в полной мере использовать многомасштабные структуры, шаг первого сверточного слоя уменьшается до 1, а первые два слоя максимального пула удаляются. Карта объектов (32 x 32 x каналов) будет иметь почти тот же размер, что описан в таблице 1 (28 x 28 x каналов) в документе перед подачей в inception_3a . Я также пробовал только уменьшить шаг или удалить только один максимальный слой пула. Но я обнаружил, что текущая настройка обеспечивает лучшую производительность на тестовом наборе.
Во время обучения к двум полностью связанным слоям применяется отсев с вероятностью сохранения 0,4, а также используется затухание веса с 5e-4.
Сеть обучается через оптимизатор Adam. Размер пакета равен 128. Начальная скорость обучения равна 1e-3, снижается до 1e-4 после 30 эпох и, наконец, снижается до 1e-5 после 50 эпох.
Из каждого цветового канала входных изображений вычитается среднее значение, вычисленное из обучающего набора.

Использование

Классификация ImageNet

Подготовка

Загрузите предварительно обученные параметры здесь. Это оригинал отсюда.
Путь установки в examples/inception_pretrained.py : PRETRINED_PATH — это путь к предварительно обученной модели. DATA_PATH — путь для размещения тестовых изображений.

Бегать

Перейдите в examples/ и поместите тестовое изображение в папку DATA_PATH , затем запустите скрипт:

 python inception_pretrained.py --im_name PART_OF_IMAGE_NAME

--im_name — опция для имен изображений, которые вы хотите протестировать. Если все тестовые изображения представляют собой файлы png , это может быть png . Настройка по умолчанию — .jpg .
Результатом будут пять лучших меток классов и вероятностей.

Обучите сеть CIFAR-10

Подготовка

Загрузите набор данных CIFAR-10 отсюда.
Путь установки в examples/inception_cifar.py : DATA_PATH — это путь для размещения CIFAR-10. SAVE_PATH — это путь для сохранения или загрузки файла сводки и обученной модели.

Обучение модели

Перейдите в examples/ и запустите скрипт:

 python inception_cifar.py --train 
  --lr LEARNING_RATE 
  --bsize BATCH_SIZE 
  --keep_prob KEEP_PROB_OF_DROPOUT 
  --maxepoch MAX_TRAINING_EPOCH

Сводная информация и модель будут сохранены в SAVE_PATH . Одну предварительно обученную модель на CIFAR-10 можно скачать здесь.

Оцените модель

Перейдите в examples/ и поместите предварительно обученную модель в SAVE_PATH . Затем запустите скрипт:

 python inception_cifar.py --eval 
  --load PRE_TRAINED_MODEL_ID

Предварительно обученный идентификатор — это идентификатор эпохи, указанный в имени файла модели сохранения. Значение по умолчанию — 99 , что указывает на тот, который я загрузил.
Результатом будет точность обучающего и тестового набора.

Результаты

Классификация изображений с использованием предварительно обученной модели

Показаны пять лучших прогнозов. Вероятности показаны с точностью до двух десятичных знаков. Обратите внимание, что предварительно обученная модель обучается в ImageNet.
Результат VGG19 для тех же изображений можно найти здесь. Предварительная обработка изображений для обоих экспериментов одинакова.

Источник данных	Изображение	Результат
КОКО		1: вероятность: 1,00, метка: бурый медведь, синяк, Ursus arctos. 2: вероятность: 0,00, метка: ледяной медведь, белый медведь. 3: вероятность: 0,00, метка: гиена, гиена. 4: вероятность: 0,00, метка: чау, чау-чау 5: вероятность: 0,00, метка: американский черный медведь, черный медведь.
КОКО		1: вероятность: 0,79, метка: дорожный знак. 2: вероятность: 0,06, метка: светофор, сигнал светофора, стоп-сигнал. 3: вероятность: 0,03, метка: паркомат. 4: вероятность: 0,02, метка: почтовый ящик, почтовый ящик. 5: вероятность: 0,01, метка: шарик.
КОКО		1: вероятность: 0,94, метка: троллейбус, троллейбус. 2: вероятность: 0,05, метка: легковой автомобиль, автобус, карета. 3: вероятность: 0,00, метка: пожарная машина, пожарная машина. 4: вероятность: 0,00, метка: трамвай, трамвай, трамвай, троллейбус. 5: вероятность: 0,00, метка: микроавтобус
КОКО		1: вероятность: 0,35, этикетка: буррито. 2: вероятность: 0,17, метка: пирожок 3: вероятность: 0,14, этикетка: картофельное пюре. 4: вероятность: 0,10, этикетка: табличка 5: вероятность: 0,03, этикетка: пицца, пирог с пиццей.
ImageNet		1: вероятность: 1,00, метка: золотая рыбка, Carassius auratus. 2: вероятность: 0,00, метка: рок-красавица, Holocanthus tricolor. 3: вероятность: 0,00, метка: фугу, иглобрюх, иглобрюхая рыба, рыба-шар. 4: вероятность: 0,00, метка: линь, Tincatinca. 5: вероятность: 0,00, метка: рыба-анемон.
Самовывоз		1: вероятность: 0,32, метка: египетская кошка. 2: вероятность: 0,30, метка: полосатый кот, полосатый кот. 3: вероятность: 0,05, метка: тигровый кот. 4: вероятность: 0,02, метка: мышь, компьютерная мышь. 5: вероятность: 0,02, этикетка: бумажное полотенце.
Самовывоз		1: вероятность: 1,00, метка: трамвай, трамвай, трамвай, троллейбус, троллейбус 2: вероятность: 0,00, метка: легковой автомобиль, автобус, карета. 3: вероятность: 0,00, метка: троллейбус, троллейбус, безрельсовый троллейбус. 4: вероятность: 0,00, метка: электровоз 5: вероятность: 0,00, метка: грузовой вагон.