AI
신경망 복습 - 신경망의 학습
손실 함수 신경망 학습에는 학습이 얼마나 잘 되고 있는지 알기 위한 '척도'가 필요하다. 일반적으로 학습 단계의 특정 시점에서 신경망의 성능을 나타내는 척도로 손실(loss)을 사용한다. 손실은 학습 데이터(학습 시 주어진 정답 데이터)와 신경망이 예측한 결과를 비교해 예측이 얼마나 나쁜가를 산출한 단일 값(스칼라)이다. 신경망 손실은 손실함수(loss function)을 사용해 구한다. 다중 클래스 분류(multi-class classification)신경망에서 손실 함수로 흔히 교차 엔트로피 오차(Cross Entropy Error)를 이용한다. 교차 엔트로피 오차는 신경망이 출력하는 각 클래스의 '확률'과 '정답 레이블'을 이용해 구할 수 있다. 손실 함수를 적용한 신경망의 계층 구성 미분과 기울기..
2020. 12. 24. 01:58
최근댓글