[Data] 미분을 하는 이유

데이터에서의 미분은 수학에서의 미분과 비슷하지만 다르다.

 

 

이 식을 통해 Loss= Y - T 이다.

(Y는 구한 값이고 T는 정답값이라고 할 수 있다)

 

Loss가 최소가 되어야 하는데 T는 정해져 있는 값이기에 Y를 수정해야 한다.

 

=> Y는 X ·w+b로 계산되었으니 w와 b가 변화의 대상이다.

 

이를 위해 loss가 최소가 되도록 w와 b를 공부해야 한다.

이는 미분으로 w와 b의 값을 변화시킬 수 있다.

 

이처럼 현재의 w에서 미분한 값을 빼서 다음의 w에 사용하고, 현재의 b에서 미분한 값을 빼서 다음의 b에 사용한다.

 

수학에서 이 미분식은 기울기를 구하기 위해서 사용되었다.

하지만 데이터의 관점에서 이 식을 보자면 아주 미세한 입력의 변화에 따라서 출력이 얼만큼 변화하는 지를 나타내는 식이다.

 

이 필기처럼 입력 데이터의 변화에 따른 출력 데이터의 변화라고 볼 수 있다.

 

(+ w와 b는 독립적인 변수이기에 서로에게 영향을 받지 않는 변수이다.)