XGBoost (eXtra Gradient Boost의 줄임말) 표준 GBM들이 가지고 있던 문제들을 해결하기 위해서 발전된 형태의 GBM. 분류와 회귀 둘 다에서 뛰어난 예측 성능을 가지고 있음. GBM 대비 빠른 수행 시간. (CPU 병렬처리, GPU 지원) 오차오류만 줄이는 방향으로 가면 과적합 그래서 이런걸 규제함. 규제기능 탑재 Tree Pruning 가지치기. 노드를 다 만들었다가 다시 한번 검증. 제대로 역할을 하는지. 거꾸로. 조기중단 약한 학습기의 개수만큼 루프를 돌지않고 오류 감소가 눈에 띄게 나오지 않는다면 학습을 중단 시킴. 자체 내장된 교차 검증. 결손값 자체 처리. -XGBoost 파이썬 구현 최초로는 C++로 작성되다가 python과 R로 확장(C/C++ 모듈 호출하는 Wrap..
