• Paper: https://arxiv.org/abs/1801.04381

• Code: https://github.com/tensorflow/models/blob/master/research/slim/nets/mobilenet/mobilenet_v2.py

• References:

  • ReLU6? https://gaussian37.github.io/dl-concept-relu6/
  • Why the 6 in relu6? https://stackoverflow.com/questions/47220595/why-the-6-in-relu6/47220765
  • 고정 소수점과 부동 소수점: https://hoodymong.tistory.com/50
  • Simple Fixed-Point Conversion in C: https://embeddedartistry.com/blog/2018/07/12/simple-fixed-point-conversion-in-c/
  • MobileNet version2: https://machinethink.net/blog/mobilenet-v2/

Overview

본 논문에서는 더 적은 파라미터로 더 좋은 성능을 낼 수 있는 새로운 mobile architecture를 제안합니다. 주요한 변경사항은 다음과 같습니다.

Inverted residual structureLinear Bottleneck layers with shortcut connections

참고로 위 그림 (d) 우측의 shorcut connection이 없는 구조는 inference의 과정에서 feature map의 차원을 변경시키는 층에서 사용합니다.

VGG의 구조와의 호환성을 염두한 MobileNets는 달리 Mobilenets-V2에서는 Resnet에서 제안한 residual block과의 호환성을 주로 염두한 것으로 보입니다.

Inverted Residual Structure with Linear Bottlenecks

Residual block에서 제안한 bottleneck 구조(위 그림 좌측)는 전반적인 연산량을 줄이기 위해 3×3 conv 연산 이전에 차원을 줄이고 여기서 발생할 수 있는 정보소실을 보상하기 위해 차원을 줄이는 과정에서 non-linearity를 주는 방법입니다. 허나, 이 방법에는 문제점이 한가지 있는데, 차원을 줄이는데서 발생하는 정보의 소실을 non-linearity가 충분히 보상할 수 있는지에 대해 확신할 수 없다는 것입니다. Mobilenets-V2는 linear bottleneck을 사용한 inverted residual block 방식의 제안으로 이 문제에 대한 해결을 제안합니다. 주요한 아이디어는 다음과 같습니다.

• Depthwise separable convolution을 사용하면 3×3 dconv 연산 전에 차원을 늘리더라도 residual block에 비해 전반적인 연산량을 훨씬 줄일 수 있음. 1×1 conv로 차원을 늘리고, 3×3 dconv 연산과 뒤따라 오는 1×1 conv + ReLU6로 차원을 다시 입력과 동일하게 맞추면 기존의 residual block과 반대의(inverted, 뚱뚱한) 생김새를 가지는 residual structure를 만들 수 있음.