머신러닝 알고리즘 - 기저함수(basis function)

1. 기저함수

• 기저 함수(Basis function)? 설명변수를 함수 형태로 나타낸 것
• 정규 분포 이외의 분포를 다루는 일반화 선형 모델(generalized linear model)과 혼합 정규 분포(mixture normal distribution)등의 혼합 모델 <- 기저 함수와 기저 함수의 선형 결합으로 모델을 나타냄
• 기저 함수는 확률 분포 모델에 따라 연속 확률 분포와 이산 확률 분포로 나뉜다
• 주요 기저 함수 : 정규분포, 감마분포, 지수분포 

 

 

2. 정규분포

• 가장 많이 사용하는 정규 분포 개념
• 실험의 측정 오차나 사회 현상 등 자연계의 현상은 정규분포를 따르는 경향
• 정규분포를 엄격하게 따르지 않더라도 계산이나 모델의 단순화 등을 위해 데이터의 분포를 정규분포로 가정할 때가 많다. (<- 이항분포의 근사치로도 사용)

 

 

3. 감마분포

• 특정 수의 사건이 일어날 때까지 걸리는 시간에 관한 연속 확률 분포
• 감마함수 Γ는 자연수 집합 N이 주어졌을 때 팩토리얼 N!와 같다
• 모양 매개변수 k, 크기매개변수 θ, 평균은 kθ, 분산 kθ^2   
• 감마 분포는 지수 분포나 푸아송 분포 등의 매개변수에 대한 켤레 사전 확률 분포이며, 이에 따라 베이즈 확률론에서 사전 확률 분포로 사용된다.

 

 

4. 지수분포 

• 감마분포의 특별한 형태로 사건이 일어나는 시간 간격의 확률분포
• 푸아송 분포와도 깊은 관계가 있다.