미술관에 GAN 딥러닝 실전 프로젝트 - 4.4 - GAN의 도전 과제

진동하는 손실

• 판별자와 생성자의 손실이 장기간 안정된 모습을 보여주지 못하고 큰 폭으로 진동하기 시작할 수 있다.
• 일반적으로 배치마다 손실에 약한 진동이 있다.
  • 하지만 장기적으로 심하게 출렁이는 것이 아니라 손실이 안정되거나 점진적으로 증가하거나 감소하는 형태를 보여야 한다.
  • 이는 시간이 지남에 따라 GAN이 수렴하거나 향상된다고 확신을 줄 수 있다.

 

모드 붕괴

• 생성자가 판별자를 속이는 적은 수의 샘플을 찾을 때 일어난다.
• 한정된 샘플 이외에는 다른 샘플을 생성하지 못한다.

 

유용하지 않은 손실

• 생성자는 현재 판별자에 의해서만 평가되고 판별자는 계속 향상되기 때문에 훈련 과정의 다른 지점에서 평가된 손실을 비교할 수 없다.
• 생성자의 손실과 이미지 품질 사이의 연관성의 부족은 이따금 GAN 훈련 과정을 모니터링하기 어렵게 만든다.

 

 

하이퍼파라미터

• GAN은 튜닝해야 할 하이퍼파라미터의 개수가 상당히 많다.
• 판별자와 생성자의 전체 구조, 배치 정규화, 드롭아웃, 학습률, 활성화 층, 합성곱 필터, 커널 크기, 스트라이드, 배치 크기, 잠재 공간 크기를 결정하는 하이퍼파라미터를 고려해야 한다.
• GAN은 파라미터의 작은 변화에도 매우 민감하다.

 

 

 

 

 

 

 

 

 

 

 

 

http://www.yes24.com/Product/Goods/81538614?OzSrank=1

미술관에 GAN 딥러닝 실전 프로젝트 - YES24