Machine learning 공부할때 자주 나오는 개념
http://statgen.iop.kcl.ac.uk/bgim/mle/sslike_3.html
간단히 설명하면
사전 X가 나올 확률 P(X|p)로 표현하고
우도값은 L( p | x ) 이렇게 표현한다
동전 던지기 테스트
동전던지기를 100회 시행 해서
56번 앞면이 나왔을때
p = 0.52일 경우
)
p = 0.5일 경우
)
(계산 방법은 아래 excel 파일 참조)
p 값을 다양하게 해서 테스트를 해보면
p값이 0.56일때 우도값(likelihood)이 가장 크다
결국 Maximum Likelihood Estimation은 0.56이 된다.
왜 MLE에 우리는 많은 시간을 소비하는가?
이런 예제는 너무 간단해서 눈으로도 대략 MLE를 추정할수 있지만
우리가 접하는 모든 문제가 이렇게 간단하지만은 않기 때문이다.
'언어처리' 카테고리의 다른 글
| Expectation Maximization (0) | 2008.09.05 |
|---|---|
| 조건부 확률 (1) | 2008.07.25 |
| Latent Semantic Analysis 2 (1) | 2008.05.13 |
| Latent Semantic Analysis (2) | 2008.04.30 |
| 띄어쓰기의 어려움 bigram 2-1 (1) | 2008.02.03 |
