세 단계
배깅(bagging)은 bootstrap aggregating의 약자로, 부트스트랩을 통해 조금씩 다른 훈련 데이터에 대해 훈련된 기초 분류기들을 결합시키는 방법이다. 부트스트랩이란, 주어진 훈련 데이터에서 중복을 허용하여 원 데이터와 같은 크기의 데이터를 만드는 과정을 말한다. 배깅을 통해 랜덤 포레스트를 훈련시키는 과정은 다음과 같이 크게 세 단계로 구성되어있다. 트리는 작은 편향과 큰 분산을 갖기 때문에, 매우 깊이 성장한 트리는 훈련 데이터에 대해 과대적합(overfitting)하게 된다. 부트스트랩 과정은 트리들의 편향은 그대로 유지하면서, 분산은 감소시키기 때문에 포레스트의 성능을 향상시킨다.
랜덤 포레스트에서 배깅은 몇 단계로 구성되어있어
랜덤 포레스트