boosting區別|bagging

bagging與boosting是兩種不同的集成算法，Bagging採用重複取樣:boostrap 每個個體分類器所採用的訓練樣本都是從訓練集中按等概率抽取的，因此Bagging的各子網能夠很好的覆蓋訓練樣本空間，從而有着良好的穩定性。

而Boosting注重分類錯誤的樣本，將個體子網分類錯誤的訓練樣本的權重提高，降低分類錯誤的樣本權重，並依據修改後的樣本權重來生成新的訓練樣本空間並用來訓練下一個個體分類器。然而，由於Boosting算法可能會將噪聲樣本或分類邊界樣本的權重過分累積，因此Boosting很不穩定，但其在通常情況下，其泛化能力是最理想的集成算法之一。