[Math] 모수 추정 방법론인 최대 우도 추정법 (Maximum Likelihood Estimation)이란?

모수 추정 방법론은 크게 세가지가 있다.

1. 최대 우도 추정법 2. 베이즈 추정법 3. 최대 가능도 추정법 

 

 

0. 최대 우도 추정법 (Maximum Likelihood Estimation) 이란?

- 머신러닝 알고리즘, Markov Random Field SVM  .. 등 가장 기본이 되는 알고리즘 

 

 

Q. 머신러닝에서 왜 가장 기본이 될까?

A. 머신러닝자체가 주어진 학습 데이터를 가장 잘 표현하는 확률 모델을 설계하는 것

-> 즉 주어진 학습 데이터들을 가장 잘 표현하는 확률 모델의 모수 파라미터 $\theta$ 를 구하는 것이다. 

 

 

1. 우도(Likeliehood)란?

- 어떤 시행의 결과 (Evidence) E 가 주어졌다 할 때, 만일 주어진 가설 H 가 참이라면, 그러한 결과 E 가 나올 정도는 얼마나 되겠느냐 하는 것

- 즉  결과 E 가 나온 경우, 그러한 결과가 나올 수 있는 여러 가능한 가설들을 평가할 수 있는 측도가 곧 우도. 

 

 

 

 

 

 

 

 

 

 

<출처> 

1. https://www.youtube.com/watch?v=sOtkPm_1GYw

2. http://www.aistudy.com/math/likelihood.htm

3.

4.