선정 논문 : Going Deeper with convolution

❔해당 논문 선정 이유

• Deep Learning Architecture의 기본이 되는 논문이라는 생각

• 2014년에 ImageNet에서 개최한 ILSVRC14(ImageNet Large-Scale Visual Recognition Challenge 2014) 대회에서 우승을 차지한 논문

• 당시에는 굉장히 각광받는 알고리즘이었으며 Detction 모델로 유명한 YOLO에서도 GoogLeNet을 변형하여 사용했을 정도로 인기가 많음.

  → 이 논문으로 차근차근 deep learning에 대해 알아가고 싶어 선정하게 되었습니다.

Introduction

딥러닝의 발전동향과 GoogLeNet이 나오게 된 배경 및 설계 주안점에 대한 소개

• 지난 3년간, 딥러닝의 발전 덕분에 CNN 분야에서 큰 발전이 이루어졌다고 언급하고 있으며, 단순히 하드웨어 성능이 좋아져 발전했다기 보다는 새로운 아이디어와 알고리즘, 그리고 개선된 신경망 구조 덕분이라고 말하고 있습니다.
• 이 때, Google 팀이 개발한 GoogLeNet은 AlexNet 보다 파라미터의 수가 12배나 적음에도 불구하고 훨씬 정확한 성능을 갖고 있다고 소개하고 있습니다.

Mobile 및 Embedded 환경에서의 알고리즘의 효율성 언급

• Mobile 및 Embedded 환경에서 전력 & 메모리 사용량 관점에서 효율적인 알고리즘의 중요성이 대두되고 있다고 언급하며

  → 엄격한 고정된 구조를 가지는 것보다 유연한 구조를 가지게끔 했고, 이를 위해 15억번 이하의 연산만을 수행하도록 설계했습니다.

논문 제목의 유래 소개

• 영화 ‘인셉션’의 대사인 “We need to go deeper”에서 착안하였다 하고, 여기서 Deep은 Inception module의 형태로 새로운 차원의 구조를 도입한 것과 네트워크의 깊이가 증가한 것을 의미합니다.

Motivation and High Level Considerations

심층 신경망의 성능을 개선시킬 수 있는 가장 간단한 방법?

→ 신경망의 크기를 늘리는 것!!

• 크기를 늘린다는 것은 depth와 width의 증가를 의미합니다.