GoogLeNet pour la classification des images

Implémentation TensorFlow de Going Deeper with Convolutions (CVPR'15).

Ce référentiel contient des exemples de classification d'images naturelles à l'aide d'un modèle pré-entraîné ainsi que la formation d'un réseau Inception à partir de zéro sur l'ensemble de données CIFAR-10 (précision de 93,64 % sur l'ensemble de tests). Le modèle pré-entraîné sur CIFAR-10 peut être téléchargé à partir d'ici.
Architecture de GoogLeNet tirée de l'article :

Exigences

Python3.3+
TensorFlow 1.9+
Numpy
Scipy

Détails de mise en œuvre

Le modèle GoogLeNet est défini dans src/nets/googlenet.py .
Le module de création est défini dans src/models/inception_module.py .
Un exemple de classification d'images à l'aide d'un modèle pré-entraîné se trouve dans examples/inception_pretrained.py .
Un exemple de formation d'un réseau à partir de zéro sur CIFAR-10 se trouve dans examples/inception_cifar.py .

Pour tester le modèle pré-entraîné

Les images sont redimensionnées de sorte que le plus petit côté soit égal à 224 avant d'être introduit dans le modèle. Ce n'est pas la même chose que l'article original qui est un ensemble de 7 modèles similaires utilisant 144 recadrages 224x224 par image à des fins de test. Les performances ne seront donc pas aussi bonnes que celles du papier original.

Pour une formation à partir de zéro sur CIFAR-10

Toutes les couches LRN sont supprimées des couches convolutives.
La normalisation par lots et l'activation ReLU sont utilisées dans toutes les couches convolutives, y compris les couches de la structure Inception, à l'exception de la couche de sortie.
Deux classificateurs auxiliaires sont utilisés comme mentionné dans l'article, bien que 512 unités cachées au lieu de 1 024 soient utilisées dans les deux couches entièrement connectées pour réduire le calcul. Cependant, j'ai trouvé que les résultats sont presque les mêmes sur CIFAR-10 avec et sans classificateurs auxiliaires.
Étant donné que les images 32 x 32 sont sous-échantillonnées à 1 x 1 avant d'être introduites dans inception_5a , cela rend la structure multi-échelle des couches de création moins utile et nuit aux performances (précision d'environ 80 % ). Pour utiliser pleinement les structures multi-échelles, la foulée de la première couche convolutive est réduite à 1 et les deux premières couches de pooling maximales sont supprimées. La carte des fonctionnalités (32 x 32 x canaux) aura presque la même taille que celle décrite dans le tableau 1 (28 x 28 x canaux) dans le document avant d'être introduite dans inception_3a . J'ai également essayé de réduire uniquement la foulée ou de supprimer uniquement une couche de pooling maximale. Mais j'ai trouvé que le paramètre actuel offre les meilleures performances sur l'ensemble de tests.
Pendant l'entraînement, l'abandon avec une probabilité de maintien de 0,4 est appliqué à deux couches entièrement connectées et la perte de poids avec 5e-4 est également utilisée.
Le réseau est formé via l'optimiseur Adam. La taille du lot est de 128. Le taux d'apprentissage initial est de 1e-3, diminue à 1e-4 après 30 époques et finalement à 1e-5 après 50 époques.
Chaque canal de couleur des images d'entrée est soustrait de la valeur moyenne calculée à partir de l'ensemble d'apprentissage.

Usage

Classification ImageNet

Préparation

Téléchargez les paramètres pré-entraînés ici. C'est original d'ici.
Chemin de configuration dans examples/inception_pretrained.py : PRETRINED_PATH est le chemin du modèle pré-entraîné. DATA_PATH est le chemin pour mettre les images de test.

Courir

Accédez à examples/ et placez l'image de test dans le dossier DATA_PATH , puis exécutez le script :

 python inception_pretrained.py --im_name PART_OF_IMAGE_NAME

--im_name est l'option pour les noms d'images que vous souhaitez tester. Si les images de test sont toutes des fichiers png , cela peut être png . Le paramètre par défaut est .jpg .
Le résultat sera les 5 meilleures étiquettes et probabilités de classe.

Former le réseau sur CIFAR-10

Préparation

Téléchargez l'ensemble de données CIFAR-10 à partir d'ici
Chemin de configuration dans examples/inception_cifar.py : DATA_PATH est le chemin pour mettre CIFAR-10. SAVE_PATH est le chemin pour enregistrer ou charger le fichier récapitulatif et le modèle entraîné.

Entraîner le modèle

Accédez à examples/ et exécutez le script :

 python inception_cifar.py --train 
  --lr LEARNING_RATE 
  --bsize BATCH_SIZE 
  --keep_prob KEEP_PROB_OF_DROPOUT 
  --maxepoch MAX_TRAINING_EPOCH

Le résumé et le modèle seront enregistrés dans SAVE_PATH . Un modèle pré-entraîné sur CIFAR-10 peut être téléchargé à partir d'ici.

Évaluer le modèle

Accédez à examples/ et placez le modèle pré-entraîné dans SAVE_PATH . Ensuite, exécutez le script :

 python inception_cifar.py --eval 
  --load PRE_TRAINED_MODEL_ID

L'ID pré-entraîné est l'ID d'époque indiqué dans le nom du fichier modélisé de sauvegarde. La valeur par défaut est 99 , qui indique celle que j'ai téléchargée.
Le résultat sera la précision de l’ensemble de formation et de test.

Résultats

Classification d'images à l'aide d'un modèle pré-entraîné

Les cinq meilleures prédictions sont affichées. Les probabilités sont indiquées en gardant deux décimales. Notez que les modèles pré-entraînés sont formés sur ImageNet.
Le résultat du VGG19 pour les mêmes images peut être trouvé ici. Le prétraitement des images pour les deux expériences est le même.

Source de données	Image	Résultat
COCO		1 : probabilité : 1,00, étiquette : ours brun, bruin, Ursus arctos 2 : probabilité : 0,00, étiquette : ours des glaces, ours polaire 3 : probabilité : 0,00, étiquette : hyène, hyène 4 : probabilité : 0,00, étiquette : chow, chow chow 5 : probabilité : 0,00, étiquette : ours noir américain, ours noir
COCO		1 : probabilité : 0,79, étiquette : panneau de signalisation 2 : probabilité : 0,06, étiquette : feu tricolore, feu tricolore, feu stop 3 : probabilité : 0,03, étiquette : parcomètre 4 : probabilité : 0,02, étiquette : boîte aux lettres, boîte aux lettres 5 : probabilité : 0,01, étiquette : ballon
COCO		1 : probabilité : 0,94, étiquette : trolleybus, trolleybus 2 : probabilité : 0,05, étiquette : voiture de tourisme, autocar, voiture 3 : probabilité : 0,00, étiquette : camion de pompiers, camion de pompiers 4 : probabilité : 0,00, étiquette : tramway, tramway, tramway, trolley 5 : probabilité : 0,00, étiquette : minibus
COCO		1 : probabilité : 0,35, étiquette : burrito 2 : probabilité : 0,17, étiquette : potpie 3 : probabilité : 0,14, étiquette : purée de pomme de terre 4 : probabilité : 0,10, étiquette : plaque 5 : probabilité : 0,03, étiquette : pizza, tarte à pizza
ImageNet		1 : probabilité : 1,00, étiquette : poisson rouge, Carassius auratus 2 : probabilité : 0,00, étiquette : rock beauty, Holocanthus tricolor 3 : probabilité : 0,00, étiquette : globe, poisson-globe, poisson-globe, poisson-globe 4 : probabilité : 0,00, étiquette : tanche, Tinca tinca 5 : probabilité : 0,00, étiquette : poisson anémone
Auto-collecte		1 : probabilité : 0,32, étiquette : chat égyptien 2 : probabilité : 0,30, étiquette : tigré, chat tigré 3 : probabilité : 0,05, étiquette : chat tigre 4 : probabilité : 0,02, étiquette : souris, souris d'ordinateur 5 : probabilité : 0,02, étiquette : essuie-tout
Auto-collecte		1 : probabilité : 1,00, étiquette : tramway, tramway, tramway, trolleybus, tramway 2 : probabilité : 0,00, étiquette : voiture de tourisme, autocar, voiture 3 : probabilité : 0,00, étiquette : trolleybus, trolleybus, trolley sans rail 4 : probabilité : 0,00, étiquette : locomotive électrique 5 : probabilité : 0,00, étiquette : wagon de marchandises