GoogLeNet สำหรับการจำแนกภาพ

การใช้งาน TensorFlow ของ Going Deeper with Convolutions (CVPR'15)

พื้นที่เก็บข้อมูลนี้ประกอบด้วยตัวอย่างการจัดประเภทรูปภาพธรรมชาติโดยใช้โมเดลที่ได้รับการฝึกอบรมล่วงหน้า ตลอดจนการฝึกอบรมเครือข่าย Inception ตั้งแต่เริ่มต้นบนชุดข้อมูล CIFAR-10 (ความแม่นยำ 93.64% ในชุดทดสอบ) สามารถดาวน์โหลดโมเดลก่อนการฝึกบน CIFAR-10 ได้จากที่นี่
สถาปัตยกรรมของ GoogLeNet จากบทความ:

ความต้องการ

ไพธอน 3.3+
เทนเซอร์โฟลว์ 1.9+
นัมปี้
สไปซี่

รายละเอียดการดำเนินการ

โมเดล GoogLeNet ถูกกำหนดไว้ใน src/nets/googlenet.py
โมดูลการเริ่มต้นถูกกำหนดไว้ใน src/models/inception_module.py
ตัวอย่างการจัดหมวดหมู่รูปภาพโดยใช้โมเดลที่ได้รับการฝึกล่วงหน้าอยู่ใน examples/inception_pretrained.py
ตัวอย่างของการฝึกเครือข่ายตั้งแต่เริ่มต้นบน CIFAR-10 อยู่ใน examples/inception_cifar.py

สำหรับการทดสอบโมเดลก่อนการฝึก

รูปภาพจะถูกปรับขนาดใหม่เพื่อให้ด้านที่เล็กที่สุดเท่ากับ 224 ก่อนที่จะป้อนเข้าไปในโมเดล นี่ไม่เหมือนกับกระดาษต้นฉบับซึ่งเป็นชุดของแบบจำลองที่คล้ายกัน 7 แบบโดยใช้การครอบตัด 144 224x224 ต่อภาพสำหรับการทดสอบ ดังนั้นประสิทธิภาพจะไม่ดีเท่ากระดาษต้นฉบับ

สำหรับการฝึกอบรมตั้งแต่เริ่มต้นใน CIFAR-10

เลเยอร์ LRN ทั้งหมดจะถูกลบออกจากเลเยอร์แบบหมุนวน
การทำให้เป็นมาตรฐานแบบแบตช์และการเปิดใช้งาน ReLU ถูกใช้ในเลเยอร์แบบหมุนวนทั้งหมด รวมถึงเลเยอร์ในโครงสร้าง Inception ยกเว้นเลเยอร์เอาต์พุต
มีการใช้ตัวแยกประเภทเสริมสองตัวตามที่กล่าวไว้ในรายงาน แม้ว่าจะใช้หน่วยที่ซ่อนอยู่ 512 แทน 1,024 หน่วยในเลเยอร์ที่เชื่อมต่อกันอย่างสมบูรณ์ทั้งสองเลเยอร์เพื่อลดการคำนวณ อย่างไรก็ตาม ฉันพบว่าผลลัพธ์เกือบจะเหมือนกันใน CIFAR-10 ที่มีและไม่มีตัวแยกประเภทเสริม
เนื่องจากรูปภาพขนาด 32 x 32 ได้รับการสุ่มตัวอย่างลงเป็น 1 x 1 ก่อนที่จะป้อนเข้าสู่ inception_5a ทำให้โครงสร้างหลายขนาดของเลเยอร์ Inception มีประโยชน์น้อยลงและส่งผลเสียต่อประสิทธิภาพ (ความแม่นยำประมาณ 80% ) เพื่อใช้ประโยชน์จากโครงสร้างแบบหลายสเกลได้อย่างเต็มที่ การก้าวของชั้น Convolutional ชั้นแรกจะลดลงเหลือ 1 และชั้นรวมสูงสุดสองชั้นแรกจะถูกลบออก แผนผังคุณลักษณะ (32 x 32 x ช่อง) จะมีขนาดเกือบเท่ากันตามที่อธิบายไว้ในตาราง 1 (28 x 28 x ช่อง) ในกระดาษก่อนที่จะป้อนเข้าสู่ inception_3a ฉันได้ลองลดการก้าวเดินหรือลบเลเยอร์รวมสูงสุดเพียงอันเดียวเท่านั้น แต่ฉันพบว่าการตั้งค่าปัจจุบันให้ประสิทธิภาพที่ดีที่สุดกับชุดการทดสอบ
ในระหว่างการฝึก จะมีการปรับใช้ dropout ที่มีความน่าจะเป็นคง 0.4 กับเลเยอร์ที่เชื่อมต่อกันอย่างสมบูรณ์ 2 ชั้น และใช้การสลายตัวของน้ำหนักด้วย 5e-4 เช่นกัน
เครือข่ายได้รับการฝึกฝนผ่าน Adam Optimizer ขนาดแบตช์คือ 128 อัตราการเรียนรู้เริ่มต้นคือ 1e-3 ลดลงเหลือ 1e-4 หลังจาก 30 ยุค และสุดท้ายก็สลายไปที่ 1e-5 หลังจาก 50 ยุค
แต่ละช่องสีของภาพที่ป้อนจะถูกลบด้วยค่าเฉลี่ยที่คำนวณจากชุดการฝึก

การใช้งาน

การจำแนกประเภทของ ImageNet

การตระเตรียม

ดาวน์โหลดพารามิเตอร์ที่ได้รับการฝึกล่วงหน้าที่นี่ นี่เป็นต้นฉบับจากที่นี่
เส้นทางการตั้งค่าใน examples/inception_pretrained.py : PRETRINED_PATH เป็นเส้นทางสำหรับโมเดลที่ได้รับการฝึกอบรมล่วงหน้า DATA_PATH เป็นเส้นทางสำหรับทดสอบอิมเมจ

วิ่ง

ไปที่ examples/ และใส่อิมเมจทดสอบในโฟลเดอร์ DATA_PATH จากนั้นรันสคริปต์:

 python inception_pretrained.py --im_name PART_OF_IMAGE_NAME

--im_name เป็นตัวเลือกสำหรับชื่อรูปภาพที่คุณต้องการทดสอบ หากรูปภาพทดสอบเป็นไฟล์ png ทั้งหมด นี่อาจเป็น png การตั้งค่าเริ่มต้นคือ .jpg
ผลลัพธ์จะเป็นป้ายกำกับและความน่าจะเป็นของคลาส 5 อันดับแรก

ฝึกอบรมเครือข่ายบน CIFAR-10

การตระเตรียม

ดาวน์โหลดชุดข้อมูล CIFAR-10 จากที่นี่
เส้นทางการตั้งค่าใน examples/inception_cifar.py : DATA_PATH เป็นเส้นทางที่จะใส่ CIFAR-10 SAVE_PATH คือเส้นทางในการบันทึกหรือโหลดไฟล์สรุปและโมเดลที่ผ่านการฝึกอบรม

ฝึกโมเดล

ไปที่ examples/ และรันสคริปต์:

 python inception_cifar.py --train 
  --lr LEARNING_RATE 
  --bsize BATCH_SIZE 
  --keep_prob KEEP_PROB_OF_DROPOUT 
  --maxepoch MAX_TRAINING_EPOCH

สรุปและโมเดลจะถูกบันทึกไว้ใน SAVE_PATH สามารถดาวน์โหลดโมเดลก่อนการฝึกบน CIFAR-10 หนึ่งรายการได้จากที่นี่

ประเมินแบบจำลอง

ไปที่ examples/ และใส่โมเดลที่ได้รับการฝึกล่วงหน้าใน SAVE_PATH จากนั้นรันสคริปต์:

 python inception_cifar.py --eval 
  --load PRE_TRAINED_MODEL_ID

ID ที่ได้รับการฝึกล่วงหน้าคือ ID ยุคที่แสดงในชื่อไฟล์ที่สร้างโมเดลการบันทึก ค่าเริ่มต้นคือ 99 ซึ่งระบุค่าที่ฉันอัปโหลด
ผลลัพธ์จะเป็นความแม่นยำของชุดการฝึกและการทดสอบ

ผลลัพธ์

การจำแนกภาพโดยใช้แบบจำลองที่ผ่านการฝึกอบรมมาแล้ว

การคาดการณ์ห้าอันดับแรกจะแสดงขึ้น ความน่าจะเป็นจะแสดงเป็นทศนิยมสองตำแหน่ง โปรดทราบว่าโมเดลที่ได้รับการฝึกอบรมล่วงหน้าได้รับการฝึกฝนบน ImageNet
สามารถดูผลลัพธ์ของ VGG19 สำหรับภาพเดียวกันได้ที่นี่ การประมวลผลภาพล่วงหน้าสำหรับการทดลองทั้งสองจะเหมือนกัน

แหล่งข้อมูล	ภาพ	ผลลัพธ์
โคโค่		1: ความน่าจะเป็น: 1.00, ป้ายกำกับ: หมีสีน้ำตาล, บรูอิน, Ursus arctos 2: ความน่าจะเป็น: 0.00, ป้ายกำกับ: หมีน้ำแข็ง, หมีขั้วโลก 3: ความน่าจะเป็น: 0.00, ป้ายกำกับ: หมาใน, หมาใน 4: ความน่าจะเป็น: 0.00, ป้ายกำกับ: เชา เชาเชา 5: ความน่าจะเป็น: 0.00, ป้ายกำกับ: หมีดำอเมริกัน, หมีดำ
โคโค่		1: ความน่าจะเป็น: 0.79, ป้ายกำกับ: ป้ายถนน 2: ความน่าจะเป็น: 0.06, ป้ายกำกับ: สัญญาณไฟจราจร, สัญญาณไฟจราจร, ไฟหยุด 3: ความน่าจะเป็น: 0.03, ป้ายกำกับ: มิเตอร์จอดรถ 4: ความน่าจะเป็น: 0.02, ป้ายกำกับ: ตู้ไปรษณีย์, ตู้ไปรษณีย์ 5: ความน่าจะเป็น: 0.01, ป้ายกำกับ: บอลลูน
โคโค่		1: ความน่าจะเป็น: 0.94, ป้ายกำกับ: โทรลลี่บัส, รถโค้ชรถเข็น 2: ความน่าจะเป็น: 0.05, ป้ายกำกับ: รถยนต์นั่งส่วนบุคคล, รถโค้ช, รถม้า 3: ความน่าจะเป็น: 0.00, ป้ายกำกับ: รถดับเพลิง, รถดับเพลิง 4: ความน่าจะเป็น: 0.00, ป้ายกำกับ: รถราง, รถราง, รถราง, รถเข็น 5: ความน่าจะเป็น: 0.00, ป้ายกำกับ: รถมินิบัส
โคโค่		1: ความน่าจะเป็น: 0.35, ป้ายกำกับ: เบอร์ริโต 2: ความน่าจะเป็น: 0.17, ป้ายกำกับ: หม้อ 3: ความน่าจะเป็น: 0.14, ป้ายกำกับ: มันบด 4: ความน่าจะเป็น: 0.10, ป้ายกำกับ: จาน 5: ความน่าจะเป็น: 0.03, ป้ายกำกับ: พิซซ่า, พายพิซซ่า
อิมเมจเน็ต		1: ความน่าจะเป็น: 1.00, ป้ายกำกับ: ปลาทอง, Carassius auratus 2: ความน่าจะเป็น: 0.00, ป้ายกำกับ: ความงามของหิน, โฮโลแคนทัสไตรรงค์ 3: ความน่าจะเป็น: 0.00, ป้ายกำกับ: ปลาปักเป้า, ปลาปักเป้า, ปลาปักเป้า, ปลาปักเป้า 4: ความน่าจะเป็น: 0.00, ป้ายกำกับ: เทนช์, Tinca tinca 5: ความน่าจะเป็น: 0.00, ป้ายกำกับ: ปลาการ์ตูน
การรวบรวมด้วยตนเอง		1: ความน่าจะเป็น: 0.32, ป้ายกำกับ: แมวอียิปต์ 2: ความน่าจะเป็น: 0.30, ป้ายกำกับ: แมวลาย, แมวลาย 3: ความน่าจะเป็น: 0.05, ป้ายกำกับ: แมวเสือ 4: ความน่าจะเป็น: 0.02, ป้ายกำกับ: เมาส์, เมาส์คอมพิวเตอร์ 5: ความน่าจะเป็น: 0.02, ป้ายกำกับ: กระดาษเช็ดมือ
การรวบรวมด้วยตนเอง		1: ความน่าจะเป็น: 1.00, ป้ายกำกับ: รถราง, รถราง, รถราง, รถเข็น, รถราง 2: ความน่าจะเป็น: 0.00, ป้ายกำกับ: รถยนต์นั่งส่วนบุคคล, รถโค้ช, รถม้า 3: ความน่าจะเป็น: 0.00, ป้ายกำกับ: โทรลลี่ย์บัส, รถโค้ชรถเข็น, รถเข็นไร้ร่องรอย 4: ความน่าจะเป็น: 0.00, ป้ายกำกับ: หัวรถจักรไฟฟ้า 5: ความน่าจะเป็น: 0.00, ป้ายกำกับ: รถบรรทุกสินค้า