也来学习一下近来比较火的 Gradient Boosting 算法，最近数据比赛里较热门的 xgboost 、 lightGBM、 GBM 都是基于 Grandient Boosting 的思路。 Gradient Boosting 集合了 Boosting 和 Bagging 的思想，其结果泛化性能较好，并且由决策树本身的性质决定了并不需要过多干预特征筛选，这些特性使得它在比赛中有较广泛的用途。