GoogLeNet zur Bildklassifizierung

TensorFlow-Implementierung von Going Deeper with Convolutions (CVPR'15).

Dieses Repository enthält Beispiele für die natürliche Bildklassifizierung unter Verwendung eines vorab trainierten Modells sowie das Training eines Inception-Netzwerks von Grund auf auf dem CIFAR-10-Datensatz (93,64 % Genauigkeit im Testsatz). Das vorab trainierte Modell auf CIFAR-10 kann hier heruntergeladen werden.
Architektur von GoogLeNet aus dem Artikel:

Anforderungen

Python 3.3+
TensorFlow 1.9+
Numpy
Scipy

Implementierungsdetails

Das GoogLeNet-Modell ist in src/nets/googlenet.py definiert.
Das Inception-Modul ist in src/models/inception_module.py definiert.
Ein Beispiel für die Bildklassifizierung mithilfe eines vorab trainierten Modells finden Sie in examples/inception_pretrained.py .
Ein Beispiel für das Trainieren eines Netzwerks von Grund auf auf CIFAR-10 finden Sie in examples/inception_cifar.py .

Zum Testen des vorab trainierten Modells

Bilder werden neu skaliert, sodass die kleinste Seite 224 beträgt, bevor sie in das Modell eingespeist werden. Dies ist nicht dasselbe wie das Originalpapier, bei dem es sich um ein Ensemble aus 7 ähnlichen Modellen handelt, die zu Testzwecken 144 Ausschnitte im Format 224 x 224 pro Bild verwenden. Daher wird die Leistung nicht so gut sein wie beim Originalpapier.

Für das Training von Grund auf auf CIFAR-10

Alle LRN-Schichten werden aus den Faltungsschichten entfernt.
Batch-Normalisierung und ReLU-Aktivierung werden in allen Faltungsschichten verwendet, einschließlich der Schichten in der Inception-Struktur mit Ausnahme der Ausgabeschicht.
Wie im Artikel erwähnt werden zwei Hilfsklassifikatoren verwendet, allerdings werden in den beiden vollständig verbundenen Schichten 512 statt 1024 versteckte Einheiten verwendet, um den Rechenaufwand zu reduzieren. Ich habe jedoch festgestellt, dass die Ergebnisse bei CIFAR-10 mit und ohne Hilfsklassifikatoren fast gleich sind.
Da die 32 x 32 Bilder auf 1 x 1 heruntergesampelt werden, bevor sie in inception_5a eingespeist werden, macht dies die mehrskalige Struktur der Inception-Schichten weniger nützlich und beeinträchtigt die Leistung (ca. 80 % Genauigkeit). Um die Multiskalenstrukturen voll auszunutzen, wird der Schritt der ersten Faltungsschicht auf 1 reduziert und die ersten beiden Max-Pooling-Schichten entfernt. Die Feature-Map (32 x 32 x Kanäle) hat fast die gleiche Größe wie in Tabelle 1 (28 x 28 x Kanäle) im Dokument beschrieben, bevor sie in inception_3a eingespeist wird. Ich habe auch versucht, nur den Schritt zu reduzieren oder nur eine maximale Pooling-Schicht zu entfernen. Aber ich habe festgestellt, dass die aktuelle Einstellung die beste Leistung auf dem Testset bietet.
Während des Trainings wird ein Dropout mit einer Haltewahrscheinlichkeit von 0,4 auf zwei vollständig verbundene Schichten angewendet und auch ein Gewichtsabfall mit 5e-4 wird verwendet.
Das Netzwerk wird durch den Adam-Optimierer trainiert. Die Stapelgröße beträgt 128. Die anfängliche Lernrate beträgt 1e-3, fällt nach 30 Epochen auf 1e-4 und nach 50 Epochen schließlich auf 1e-5 ab.
Jeder Farbkanal der Eingabebilder wird um den aus dem Trainingssatz berechneten Mittelwert subtrahiert.

Verwendung

ImageNet-Klassifizierung

Vorbereitung

Laden Sie hier die vorab trainierten Parameter herunter. Das ist das Original von hier.
Setup-Pfad in examples/inception_pretrained.py : PRETRINED_PATH ist der Pfad für das vorab trainierte Modell. DATA_PATH ist der Pfad zum Einfügen von Testbildern.

Laufen

Gehen Sie zu examples/ , legen Sie das Testbild im Ordner DATA_PATH ab und führen Sie dann das Skript aus:

 python inception_pretrained.py --im_name PART_OF_IMAGE_NAME

--im_name ist die Option für Bildnamen, die Sie testen möchten. Wenn es sich bei den Testbildern ausschließlich um png Dateien handelt, kann dies png sein. Die Standardeinstellung ist .jpg .
Die Ausgabe sind die Beschriftungen und Wahrscheinlichkeiten der Top-5-Klasse.

Trainieren Sie das Netzwerk auf CIFAR-10

Vorbereitung

Laden Sie den CIFAR-10-Datensatz hier herunter
Setup-Pfad in examples/inception_cifar.py : DATA_PATH ist der Pfad zum Einfügen von CIFAR-10. SAVE_PATH ist der Pfad zum Speichern oder Laden der Zusammenfassungsdatei und des trainierten Modells.

Trainieren Sie das Modell

Gehen Sie zu examples/ und führen Sie das Skript aus:

 python inception_cifar.py --train 
  --lr LEARNING_RATE 
  --bsize BATCH_SIZE 
  --keep_prob KEEP_PROB_OF_DROPOUT 
  --maxepoch MAX_TRAINING_EPOCH

Zusammenfassung und Modell werden in SAVE_PATH gespeichert. Ein vorab trainiertes Modell auf CIFAR-10 kann hier heruntergeladen werden.

Bewerten Sie das Modell

Gehen Sie zu examples/ und fügen Sie das vorab trainierte Modell in SAVE_PATH ein. Führen Sie dann das Skript aus:

 python inception_cifar.py --eval 
  --load PRE_TRAINED_MODEL_ID

Die vorab trainierte ID ist die Epochen-ID, die im Namen der gespeicherten modellierten Datei angezeigt wird. Der Standardwert ist 99 , was den von mir hochgeladenen Wert angibt.
Die Ausgabe ist die Genauigkeit des Trainings- und Testsatzes.

Ergebnisse

Bildklassifizierung mithilfe eines vorab trainierten Modells

Die fünf besten Vorhersagen werden angezeigt. Die Wahrscheinlichkeiten werden mit zwei Dezimalstellen angezeigt. Beachten Sie, dass das vorab trainierte Modell auf ImageNet trainiert wird.
Das Ergebnis von VGG19 für die gleichen Bilder finden Sie hier. Die Vorverarbeitung der Bilder ist für beide Experimente gleich.

Datenquelle	Bild	Ergebnis
COCO		1: Wahrscheinlichkeit: 1,00, Bezeichnung: Braunbär, Braunbär, Ursus arctos 2: Wahrscheinlichkeit: 0,00, Bezeichnung: Eisbär, Eisbär 3: Wahrscheinlichkeit: 0,00, Beschriftung: Hyäne, Hyäne 4: Wahrscheinlichkeit: 0,00, Beschriftung: Chow, Chow Chow 5: Wahrscheinlichkeit: 0,00, Beschriftung: Amerikanischer Schwarzbär, Schwarzbär
COCO		1: Wahrscheinlichkeit: 0,79, Beschriftung: Straßenschild 2: Wahrscheinlichkeit: 0,06, Beschriftung: Ampel, Ampel, Ampel 3: Wahrscheinlichkeit: 0,03, Beschriftung: Parkuhr 4: Wahrscheinlichkeit: 0,02, Beschriftung: Briefkasten, Briefkasten 5: Wahrscheinlichkeit: 0,01, Beschriftung: Ballon
COCO		1: Wahrscheinlichkeit: 0,94, Bezeichnung: Trolleybus, Trolleybus 2: Wahrscheinlichkeit: 0,05, Bezeichnung: Personenkraftwagen, Reisebus, Kutsche 3: Wahrscheinlichkeit: 0,00, Bezeichnung: Feuerwehrauto, Feuerwehrauto 4: Wahrscheinlichkeit: 0,00, Bezeichnung: Straßenbahn, Straßenbahn, Straßenbahn, Straßenbahn 5: Wahrscheinlichkeit: 0,00, Bezeichnung: Kleinbus
COCO		1: Wahrscheinlichkeit: 0,35, Beschriftung: Burrito 2: Wahrscheinlichkeit: 0,17, Beschriftung: Potpie 3: Wahrscheinlichkeit: 0,14, Beschriftung: Kartoffelpüree 4: Wahrscheinlichkeit: 0,10, Beschriftung: Platte 5: Wahrscheinlichkeit: 0,03, Beschriftung: Pizza, Pizzakuchen
ImageNet		1: Wahrscheinlichkeit: 1,00, Bezeichnung: Goldfisch, Carassius auratus 2: Wahrscheinlichkeit: 0,00, Bezeichnung: Felsschönheit, Holocanthus tricolor 3: Wahrscheinlichkeit: 0,00, Bezeichnung: Kugelfisch, Kugelfisch, Kugelfisch, Kugelfisch 4: Wahrscheinlichkeit: 0,00, Beschriftung: Schleie, Tinca tinca 5: Wahrscheinlichkeit: 0,00, Beschriftung: Anemonenfisch
Selbstabholung		1: Wahrscheinlichkeit: 0,32, Beschriftung: Ägyptische Katze 2: Wahrscheinlichkeit: 0,30, Bezeichnung: Tabby, Tabby-Katze 3: Wahrscheinlichkeit: 0,05, Beschriftung: Tigerkatze 4: Wahrscheinlichkeit: 0,02, Bezeichnung: Maus, Computermaus 5: Wahrscheinlichkeit: 0,02, Etikett: Papiertuch
Selbstabholung		1: Wahrscheinlichkeit: 1,00, Bezeichnung: Straßenbahn, Straßenbahn, Straßenbahnwagen, Trolleybus, Oberleitungswagen 2: Wahrscheinlichkeit: 0,00, Bezeichnung: Personenkraftwagen, Reisebus, Kutsche 3: Wahrscheinlichkeit: 0,00, Bezeichnung: Oberleitungsbus, Oberleitungsbus, spurloser Oberleitungsbus 4: Wahrscheinlichkeit: 0,00, Beschriftung: Elektrolokomotive 5: Wahrscheinlichkeit: 0,00, Beschriftung: Güterwagen