AI
손실 함수와 경사 하강법 관계
경사 하강법 어떤 손실 함수(loss fucntion)가 정의되었을 때 손실 함수의 값이 최소가 되는 지점을 찾아가는 방법 예상한 값과 실제 타깃값의 차이를 함수로 정의한 것 제곱 오차 타깃값과 예측값을 뺀 다음 제곱 제곱 오차의 최솟값을 찾는 방법을 알면 모델을 쉽게 만들 수 있다. 제곱 오차의 최솟값 알아내기 기울기에 따라 함수의 값이 낮은 쪽으로 이동해야 한다. 기울기를 구하려면 제곱 오차를 가중치나 절편에 대해 미분하면 된다. 제곱 오차는 가중치나 절편에 대해 미분할 수 있다. 가중치에 대하여 제곱 오차 미분하기 제곱 오차를 가중치(w)에 대하여 편비문한 것이다. 편미분이란 미분의 대상 변수(w)를 제외한 다른 변수(x,b등)를 상수로 취해 미분한 것이다. *y는 타깃 데이터이므로 w의 함수가 아..
2020. 11. 3. 13:28
최근댓글