1 x 1 convolution

 

■ 1 x 1 convolution 등장

InceptionNet에서 병목현상으로 인해 늘어난 차원을 감소시키기 위해 도입


■ 1 * 1 convolution 장점 ⇒  정확도 향상, 연산량 감소
1) Channel 수 조절
- Tensor의 1 * 1 convolution 의 의미는 matrix에서 1 * 1 convolution 의 의미와 다르다.
- Matrix에  1 * 1 convolution 을 취하면 단순 곱하기 이지만, 
  Tensor에 1 * 1 convolution 을 취하면 32개의 채널정보를 압축할 수 있다.
- 한 포지션에 대한 서로 다른 채널들의 픽셀값들을 곱하기를 통해서 새롭게 압축한다.
  즉, 압축하여 새롭게 x를 만들 수 있다는 것이다. 이 x는 전에 있는 특징들을 온전히 살리지는 못하지만 적당히
  특징들을 살릴 수 있다고 주장하였다.

2) 1*1 convolution을 곱하여 parameter 수를 줄여주었다. = 연산량이 감소되었다.