CNN(합성곱신경망) 에서의 용어

합성곱(필터연산) : 필터를 일정 간격으로 이동하면서 입력데이터에 적용시키는 과정, 연산은 각 원소끼리의 곱을 더해준다. 필터를 적용시키는 과정은 기계학습, 완전연결계층에서 가중치와 입력데이터를 dot(점곱)해주는 것과 동일하다.

즉 CNN에서 필터는 가중치라고 생각할 수 있다.

 

패딩 : 합성곱 연산을 수행하기 전에 입력데이터 주변을 특정 값으로 채워주는 행위. 보통 0으로 채운다.

채우는 이유는 합성곱 연산을 하면 출력의 크기가 줄어드는데 패딩을 통해 입력데이터의 크기를 넓혀서 출력의 크기를 유지시키기 위함이다.

 

스트라이드 : 필터를 이동시키는 간격

 

완전연결계층(Affine 계층) : 완전연결 신경망에서 본 것, 인접하는 계층의 뉴런이 모두 연결되어 있는 계층

 

채널 : 3번째 차원의 특성. 이미지를 예로들면 색깔

 

풀링 : 가로, 세로 방향의 크기를 줄이는 연산. 최대값, 평균 등을 구하고 그것을 원소하나로 집약시켜서 공간의 크기를 줄인다.

 

계층 : 합성곱계층, Relu계층, softmax계층 등 신경망에서 하나의 연산이 시작되고 끝나는 과정(?), 부분(?).

 

im2col : 여러 개의 이미지(4차원)을 2차원로 변환시키는 함수. CNN에서 계층 사이를 흐르는 4차원 데이터(여러 개의 이미지)를 쉽게 합성곱 하기위해 2차원으로 변환시키고 연산을 수행하는데 이 과정에서 사용하는 트릭이다.