다항로지스틱회귀2 로지스틱 회귀 비용함수로부터 Cross-entropy 도출하기 로지스틱 회귀 비용함수로부터 Cross-entropy 도출하기 원래 지난 번 포스팅에서 cross-entropy까지 언급하기로 했었는데 정신없이 정리하다보니 이 부분이 누락되어 로지스틱회귀의 비용함수만 언급하고 지나가버렸다. 그래서 이번 포스팅에서는 간단하게 로지스틱회귀 비용함수 식이cross-entropy 식으로 변형되는 과정을 간단하게 알아보도록 하겠다. 로지스틱회귀 비용함수 복습 수차례 반복되었지만 로지스틱회귀 비용함수 식은 아래와 같다. 김성훈 교수님의 강좌에도 나오지만 이 식은 결국 다항로지스틱회귀의 비용함수인 cross-entropy와 동일한 식이다. 뭐 수학이나 공학을 전공한 사람들은 금방 알 수 있겠지만 우리 문돌이들은 두드러기가 생길 문제이므로 간단하게 풀어보도록 하겠다. cross-en.. 2017. 6. 18. 다항로지스틱회귀 살펴보기 다항 로지스틱 회귀의 이해 처음 텐서플로우 공부를 시작하면서 단순선형회귀에서 다중선형회귀로 넘어가는 과정에서 상당히 혼란스러웠었다. 단순한 1차 방정식의 형태에서 독립 변수가 늘어난 것만으로도 엄청나게 골머리를 싸매야 했다. 그리고 이제 이항 로지스틱회귀에서 다항로지스틱회귀로 넘어가려고 한다. 이번에도 역시 기대를 저버리지 않고 뇌이랑이 메워질만큼 알 듯 모를 듯한 수식들을 붙들고 씨름을 하게 만들었다. 설명은 단순한데 그 단순한 것을 제대로 이해하기 위해서는 상당한 공을 들여야 하는 것이 이 바닥인가보다…ㅠ.ㅠ 준비운동 - sigmoid 복습 먼저 이전 포스팅인 이항로지스틱회귀에서 언급되었던 식 몇개를 되살려보자. 거기에는 두 가지 개념이 등장했는데 바로 오즈 비(ODDS Ratio)와 이 오즈 비에 .. 2017. 4. 22. 이전 1 다음 반응형
