합성곱 신경망(CNN) - CNN 시각화하기

 

1번째 층의 가중치 사각화하기

• 1번째 층의 합성곱 가중치는 형상이 (30, 1,5,5)였다. (필터 30개, 채널 1개, 5*5크기)
• 필터의 크기가 5X5이고 채널이 1개라는 것은 이 필터를 1채널의 회색조 이미지로 시각화할 수 있다는 뜻이다.

 

학습 전과 후의 1번째 층의 합성곱 계층의 가중치

• 가중치의 원소는 실수이지만, 이미지에서는 가장 작은 값(0)은 검은색, 가장 큰 값(255)은 흰색으로 정규화해서 표시한다.

[그림1] 학습 전과 후의 1번째 층의 합성공 계층의 가중치

• 흰색에서 검정색으로 점차 변화하는 필터와 덩어리(블롭blob)가 진 필터 등, 규칙을 띄는 필터로 바뀌었다.

 

가로 에지와 세로 에지에 반응하는 필터

• 출력 이미지 1은 세로 에지에 흰 픽셀이 나타나고, 출력 이미지 2는 가로 에지에 흰 픽셀이 많이 나온다.

[그림2] 가로 에지와 세로 에지에 반응하느 필터

• 학습된 필터 2개를 선택해 입력 이미지에 합성곱 처리를 한 결과로 '필터1'은 세로 에지에 반응하며 '필터2'는 가로 에지에 반응하는 것을 알 수 있다.
• 합성곱 계층의 필터는 에지나 블롭 등의 원시적인 정보를 추출할 수 있다.

 

층 깊이에 따른 추출 정보 변화

• 겹겹이 쌓인 CNN 각 계층에서는 계층이 깊어질수록 추출되는 정보(정확히는 강하게 반응하는 뉴런)는 더 추상화된다는 것을 알 수 있다.

 

CNN의 합성곱 계층에서 추출되는 정보

• 1번째 층은 에지와 블롭, 3번째 층은 텍스처, 5번째 층은 사물의 일부, 마지막 완전연결 계층은 사물의 클래스(개, 자동차 등)에 뉴런이 반응한다.

[그림3] CNN 합성곱 계층에서 추출되는 정보

• 딥러닝의 흥미로운 점은 합성곱 계층을 여러 겹 쌓으면, 층이 깊어지면서 더 복잡하고 추상화된 정보가 추출된다는 점이다.
• 처음 층은 단순한 에지에 반응하고, 이어서 텍스처에 반응하고, 더 복잡한 사물의 일부에 반응하도록 변화한다.
• 층이 깊어지면서 뉴런이 반응하는 대상이 단순한 모양에서 '고급'정보로 변화해간다.
• '사물의 의미'를 이해하도록 변화하는 것이다.

 

출처 : 밑바닥부터 시작하는 딥러닝

https://www.hanbit.co.kr/store/books/look.php?p_code=B8475831198

밑바닥부터 시작하는 딥러닝