ImageNet Large Scale Visual Recognition Challenge(ILSVRC)

AlexNet

AlexNet 구조 정리

First Layer(conv 1)

• Input : 227x227x3 images

• 11x11 filters with stride 4

  ⇒ {(227-11) / 4} + 1 = 54 + 1 = 55

• Output Volume

  ⇒ 96개의 filters

  ⇒ 55x55x96

• Parameter 수??

  = (filter size * channel) * filter 개수

  *⇒ (11113)96 = 35K + bias(=96)

Second Layer(pool 1)

• Input = first layer’s output

  = 55x55x96

• 3x3 filters with stride 2

• Output Volume

  ⇒ (55-3)/2 + 1 = 26 + 1 = 27

• Parameter 수?

  • 0개 !!
  • Pooling layer는 parameter가 없음.

AlexNet - Details & Retrospectives

• ReLU 함수를 처음 사용 → 학습 속도 향상
• 과적합을 방지하기 위한 dropout 사용
• 데이터 증강 기법 사