이미지 분류를 위한 GoogLeNet

Going Deeper with Convolutions(CVPR'15)의 TensorFlow 구현입니다.

이 저장소에는 사전 훈련된 모델을 사용한 자연 이미지 분류의 예와 CIFAR-10 데이터 세트에서 처음부터 Inception 네트워크 훈련(테스트 세트의 정확도 93.64%)이 포함되어 있습니다. CIFAR-10의 사전 훈련된 모델은 여기에서 다운로드할 수 있습니다.
논문에 나온 GoogLeNet의 아키텍처:

요구사항

파이썬 3.3+
텐서플로우 1.9+
넘피
사이피

구현 세부정보

GoogLeNet 모델은 src/nets/googlenet.py 에 정의되어 있습니다.
Inception 모듈은 src/models/inception_module.py 에 정의되어 있습니다.
사전 학습된 모델을 사용한 이미지 분류의 예는 examples/inception_pretrained.py 에 있습니다.
CIFAR-10에서 처음부터 네트워크를 훈련시키는 예는 examples/inception_cifar.py 에 있습니다.

사전 훈련된 모델을 테스트하기 위해

모델에 입력되기 전에 가장 작은 변이 224와 같도록 이미지의 크기가 조정됩니다. 이는 테스트를 위해 이미지당 144개의 224x224 자르기를 사용하는 7개의 유사한 모델의 앙상블인 원본 논문과 동일하지 않습니다. 그래서 성능은 원본 논문만큼 좋지 않을 것입니다.

CIFAR-10에 대한 처음부터 교육용

모든 LRN 레이어는 컨벌루션 레이어에서 제거됩니다.
Batch Normalization과 ReLU Activation은 출력 레이어를 제외하고 Inception 구조의 레이어를 포함한 모든 Convolutional 레이어에서 사용됩니다.
논문에서 언급한 대로 두 개의 보조 분류기가 사용되지만 계산을 줄이기 위해 두 개의 완전히 연결된 레이어에 1024개의 숨겨진 단위 대신 512개가 사용됩니다. 그러나 보조 분류기를 사용하거나 사용하지 않는 CIFAR-10의 결과는 거의 동일하다는 것을 알았습니다.
32 x 32 이미지는 inception_5a 에 공급되기 전에 1 x 1로 다운샘플링되므로, 이는 Inception_5a의 다중 스케일 구조를 덜 유용하게 만들고 성능에 해를 끼칩니다(약 80% 정확도). 다중 스케일 구조를 최대한 활용하기 위해 첫 번째 컨벌루션 계층의 스트라이드는 1로 줄어들고 처음 두 개의 최대 풀링 계층은 제거됩니다. 특징 맵(32 x 32 x 채널)은 inception_3a 에 입력되기 전 논문의 표 1(28 x 28 x 채널)에 설명된 것과 거의 동일한 크기를 갖습니다. 또한 보폭을 줄이거나 최대 풀링 레이어 하나만 제거하려고 시도했습니다. 하지만 현재 설정이 테스트 세트에서 최고의 성능을 제공한다는 것을 알았습니다.
훈련 중에 유지 확률이 0.4인 드롭아웃이 두 개의 완전히 연결된 레이어에 적용되고 5e-4의 가중치 감소도 사용됩니다.
네트워크는 Adam 최적화 프로그램을 통해 훈련됩니다. 배치 크기는 128입니다. 초기 학습률은 1e-3이고 30 epoch 후에 1e-4로 감소하고 마지막으로 50 epoch 후에 1e-5로 감소합니다.
입력 이미지의 각 색상 채널은 훈련 세트에서 계산된 평균값을 뺍니다.

용법

ImageNet 분류

준비

여기에서 사전 훈련된 매개변수를 다운로드하세요. 여기에서 나온 원본입니다.
examples/inception_pretrained.py 의 설정 경로: PRETRINED_PATH 사전 학습된 모델의 경로입니다. DATA_PATH 테스트 이미지를 넣을 경로입니다.

달리다

examples/ 로 이동하여 테스트 이미지를 DATA_PATH 폴더에 넣은 다음 스크립트를 실행합니다.

 python inception_pretrained.py --im_name PART_OF_IMAGE_NAME

--im_name 은 테스트하려는 이미지 이름에 대한 옵션입니다. 테스트 이미지가 모두 png 파일인 경우 png 일 수 있습니다. 기본 설정은 .jpg 입니다.
출력은 상위 5개 클래스 레이블과 확률입니다.

CIFAR-10에서 네트워크 훈련

준비

여기에서 CIFAR-10 데이터세트를 다운로드하세요.
examples/inception_cifar.py 의 설정 경로 : DATA_PATH 는 CIFAR-10을 넣을 경로입니다. SAVE_PATH 는 요약 파일과 학습된 모델을 저장하거나 로드하는 경로입니다.

모델 학습

examples/ 로 이동하여 스크립트를 실행합니다.

 python inception_cifar.py --train 
  --lr LEARNING_RATE 
  --bsize BATCH_SIZE 
  --keep_prob KEEP_PROB_OF_DROPOUT 
  --maxepoch MAX_TRAINING_EPOCH

요약 및 모델은 SAVE_PATH 에 저장됩니다. CIFAR-10에 대해 사전 훈련된 모델 하나를 여기에서 다운로드할 수 있습니다.

모델 평가

examples/ 로 이동하여 사전 학습된 모델을 SAVE_PATH 에 넣습니다. 그런 다음 스크립트를 실행합니다.

 python inception_cifar.py --eval 
  --load PRE_TRAINED_MODEL_ID

사전 훈련된 ID는 저장된 모델링 파일 이름에 표시된 epoch ID입니다. 기본값은 99 이며 이는 내가 업로드한 것을 나타냅니다.
출력은 훈련 및 테스트 세트의 정확도입니다.

결과

사전 학습된 모델을 사용한 이미지 분류

상위 5개 예측이 표시됩니다. 확률은 소수점 이하 두 자리까지 표시됩니다. 사전 훈련된 모델은 ImageNet에서 훈련됩니다.
동일한 이미지에 대한 VGG19 결과는 여기에서 확인할 수 있습니다. 두 실험의 이미지 전처리는 동일합니다.

데이터 소스	영상	결과
머리		1: 확률: 1.00, 라벨: 불곰, 브루인, Ursus arctos 2: 확률: 0.00, 라벨: 얼음곰, 북극곰 3: 확률: 0.00, 라벨: 하이에나, 하이에나 4: 확률: 0.00, 라벨: 차우, 차우차우 5: 확률: 0.00, 라벨: 미국 흑곰, 흑곰
머리		1: 확률: 0.79, 라벨: 거리 표지판 2: 확률: 0.06, 라벨: 신호등, 교통 신호등, 신호등 3: 확률: 0.03, 라벨: 주차 미터기 4: 확률: 0.02, 라벨: 우편함, 우편함 5: 확률: 0.01, 라벨: 풍선
머리		1: 확률: 0.94, 라벨: 무궤도 전차, 무궤도 전차 2: 확률: 0.05, 라벨: 승용차, 코치, 마차 3: 확률: 0.00, 라벨: 소방차, 소방차 4: 확률: 0.00, 라벨: 전차, 트램, 트램카, 트롤리 5: 확률: 0.00, 라벨: 미니버스
머리		1: 확률: 0.35, 라벨: 부리토 2: 확률: 0.17, 라벨: potpie 3: 확률: 0.14, 라벨: 으깬 감자 4: 확률: 0.10, 라벨: 플레이트 5: 확률: 0.03, 라벨: 피자, 피자파이
이미지넷		1: 확률: 1.00, 라벨: 금붕어, Carassius auratus 2: 확률: 0.00, 라벨: 바위의 아름다움, Holocanthus tricolor 3: 확률: 0.00, 라벨: 복어, 복어, 복어, 복어 4: 확률: 0.00, 라벨: tench, Tinca Tinca 5: 확률: 0.00, 라벨: 말미잘
셀프 컬렉션		1: 확률: 0.32, 라벨: 이집트 고양이 2: 확률: 0.30, 라벨: 얼룩무늬, 얼룩무늬 고양이 3: 확률: 0.05, 라벨: 호랑이 고양이 4: 확률: 0.02, 라벨: 마우스, 컴퓨터 마우스 5: 확률: 0.02, 라벨: 종이 타월
셀프 컬렉션		1: 확률: 1.00, 라벨: 전차, 전차, 전차, 트롤리, 트롤리 자동차 2: 확률: 0.00, 라벨: 승용차, 코치, 마차 3: 확률: 0.00, 라벨: 무궤도 전차, 무궤도 전차, 무궤도 전차 4: 확률: 0.00, 라벨: 전기기관차 5: 확률: 0.00, 라벨: 화물차