Hyperparameter 튜닝 방법

Kaggle 사이트 참고하였다. 

1. 참고사이트 Xgboost 하이퍼 파라미터 튜닝 

 

 

1. learning rate 선택 및 learning rate 에 맞는 tree 갯수 선정하기 

- 선정 후 learning rate와 estimator 값 고정 

 

2. GridSearchCV 함수를 사용하여 원하는 값 튜닝하기

2-1 max_depth, min_child_weight

2-2 Gamma

2-3 subsample, colsample_bytree 

2-4 Regularization parameter 

 

3. seed 별 앙상블 후 결과제출