Maximum Likelihood Estimation

Machine learning 공부할때 자주 나오는 개념

http://statgen.iop.kcl.ac.uk/bgim/mle/sslike_3.html

간단히 설명하면

사전 X가 나올 확률 P(X|p)로 표현하고

우도값은 L( p | x ) 이렇게 표현한다

동전 던지기 테스트

동전던지기를 100회 시행 해서

56번 앞면이 나왔을때

p = 0.52일 경우

p = 0.5일 경우

(계산 방법은 아래 excel 파일 참조)

p 값을 다양하게 해서 테스트를 해보면

p값이 0.56일때  우도값(likelihood)이 가장 크다

결국 Maximum Likelihood Estimation은 0.56이 된다.

왜 MLE에 우리는 많은 시간을 소비하는가?

이런 예제는 너무 간단해서 눈으로도 대략 MLE를 추정할수 있지만

우리가 접하는 모든 문제가 이렇게 간단하지만은 않기 때문이다.