Boosting算法简介分类：机器学习2012-01-06 10:48 1044人阅读评论(1) 收藏举报算法框架任务测试c网络一、Boosting算法的发展历史Boosting算法是一种把若干个分类器整合为一个分类器的方法，在boosting算法产生之前，还出现过两种比较重要的将多个分类器整合为一个分类器的方法，即boostrapping 方法和bagging方法。

我们先简要介绍一下bootstrapping方法和bagging方法。

1）bootstrapping方法的主要过程主要步骤：i)重复地从一个样本集合D中采样n个样本ii)针对每次采样的子样本集，进行统计学习，获得假设H iiii)将若干个假设进行组合，形成最终的假设H f inaliv)将最终的假设用于具体的分类任务2）bagging方法的主要过程主要思路：i)训练分类器从整体样本集合中，抽样n* < N个样本针对抽样的集合训练分类器C iii)分类器进行投票，最终的结果是分类器投票的优胜结果但是，上述这两种方法，都只是将分类器进行简单的组合，实际上，并没有发挥出分类器组合的威力来。

直到1989年，Yoav Freund与Robert Schapire提出了一种可行的将弱分类器组合为强分类器的方法。

并由此而获得了2003年的哥德尔奖（Godel price）。

Schapire还提出了一种早期的boosting算法，其主要过程如下：i)从样本整体集合D中，不放回的随机抽样n1 < n个样本，得到集合D1训练弱分类器C1ii)从样本整体集合D中，抽取n2 < n个样本，其中合并进一半被C1分类错误的样本。

得到样本集合D2训练弱分类器C2iii)抽取D样本集合中，C1和C2分类不一致样本，组成D3训练弱分类器C3iv)用三个分类器做投票，得到最后分类结果到了1995年，Freund and schapire提出了现在的adaboost算法，其主要框架可以描述为：i)循环迭代多次更新样本分布寻找当前分布下的最优弱分类器计算弱分类器误差率ii)聚合多次训练的弱分类器在下图中可以看到完整的adaboost算法：图1.1 adaboost算法过程现在，boost算法有了很大的发展，出现了很多的其他boost算法，例如：logitboost 算法，gentleboost算法等等。

在这次报告中，我们将着重介绍adaboost算法的过程和特性。

二、Adaboost算法及分析从图1.1中，我们可以看到adaboost的一个详细的算法过程。

Adaboost是一种比较有特点的算法，可以总结如下：1）每次迭代改变的是样本的分布，而不是重复采样（re weight)2）样本分布的改变取决于样本是否被正确分类总是分类正确的样本权值低总是分类错误的样本权值高（通常是边界附近的样本）3）最终的结果是弱分类器的加权组合权值表示该弱分类器的性能简单来说，Adaboost有很多优点:1)adaboost是一种有很高精度的分类器2)可以使用各种方法构建子分类器，adaboost算法提供的是框架3)当使用简单分类器时，计算出的结果是可以理解的。

而且弱分类器构造极其简单4)简单，不用做特征筛选5)不用担心overfitting！总之：adaboost是简单，有效。

下面我们举一个简单的例子来看看adaboost的实现过程：图中，“+”和“-”分别表示两种类别，在这个过程中，我们使用水平或者垂直的直线作为分类器，来进行分类。

第一步：根据分类的正确率，得到一个新的样本分布D2，一个子分类器h1其中划圈的样本表示被分错的。

在右边的途中，比较大的“+”表示对该样本做了加权。

第二步：根据分类的正确率，得到一个新的样本分布D3，一个子分类器h2第三步：得到一个子分类器h3整合所有子分类器：因此可以得到整合的结果，从结果中看，及时简单的分类器，组合起来也能获得很好的分类效果，在例子中所有的。

Adaboost算法的某些特性是非常好的，在我们的报告中，主要介绍adaboost的两个特性。

一是训练的错误率上界，随着迭代次数的增加，会逐渐下降；二是adaboost算法即使训练次数很多，也不会出现过拟合的问题。

下面主要通过证明过程和图表来描述这两个特性：1）错误率上界下降的特性从而可以看出，随着迭代次数的增加，实际上错误率上界在下降。

2）不会出现过拟合现象通常，过拟合现象指的是下图描述的这种现象，即随着模型训练误差的下降，实际上，模型的泛化误差（测试误差）在上升。

横轴表示迭代的次数，纵轴表示训练误差的值。

而实际上，并没有观察到adaboost算法出现这样的情况，即当训练误差小到一定程度以后，继续训练，返回误差仍然不会增加。

对这种现象的解释，要借助margin的概念，其中margin表示如下：通过引入margin的概念，我们可以观察到下图所出现的现象：从图上左边的子图可以看到，随着训练次数的增加，test的误差率并没有升高，同时对应着右边的子图可以看到，随着训练次数的增加，margin一直在增加。

这就是说，在训练误差下降到一定程度以后，更多的训练，会增加分类器的分类margin，这个过程也能够防止测试误差的上升。

三、多分类adaboost在日常任务中，我们通常需要去解决多分类的问题。

而前面的介绍中，adaboost算法只能适用于二分类的情况。

因此，在这一小节中，我们着重介绍如何将adaboost算法调整到适合处理多分类任务的方法。

目前有三种比较常用的将二分类adaboost方法。

1、adaboost M1方法主要思路：adaboost组合的若干个弱分类器本身就是多分类的分类器。

在训练的时候，样本权重空间的计算方法，仍然为：在解码的时候，选择一个最有可能的分类2、adaboost MH方法主要思路：组合的弱分类器仍然是二分类的分类器，将分类label和分类样例组合，生成N个样本，在这个新的样本空间上训练分类器。

可以用下图来表示其原理：3、对多分类输出进行二进制编码主要思路：对N个label进行二进制编码，例如用m位二进制数表示一个label。

然后训练m个二分类分类器，在解码时生成m位的二进制数。

从而对应到一个label上。

四、总结最后，我们可以总结下adaboost算法的一些实际可以使用的场景：1）用于二分类或多分类的应用场景2）用于做分类任务的baseline无脑化，简单，不会overfitting，不用调分类器3）用于特征选择（feature selection)4）Boosting框架用于对badcase的修正只需要增加新的分类器，不需要变动原有分类器由于adaboost算法是一种实现简单，应用也很简单的算法。

Adaboost算法通过组合弱分类器而得到强分类器，同时具有分类错误率上界随着训练增加而稳定下降，不会过拟合等的性质，应该说是一种很适合于在各种分类场景下应用的算法。

转自：/?p=191.1 Boosing算法起源Boosting是一种提高任意给定学习算法准确度的方法。

它的思想起源于Valiant提出的 PAC ( Probably Approxi mately Cor2rect)学习模型。

Valiant 和 Kearns提出了弱学习和强学习的概念 ,识别错误率小于1 /2,也即准确率仅比随机猜测略高的学习算法称为弱学习算法;识别准确率很高并能在多项式时间内完成的学习算法称为强学习算法。

同时 ,Valiant和 Kearns首次提出了 PAC 学习模型中弱学习算法和强学习算法的等价性问题,即任意给定仅比随机猜测略好的弱学习算法 ,是否可以将其提升为强学习算法 ? 如果二者等价 ,那么只需找到一个比随机猜测略好的弱学习算法就可以将其提升为强学习算法 ,而不必寻找很难获得的强学习算法。

1990年, Schap ire最先构造出一种多项式级的算法 ,对该问题做了肯定的证明 ,这就是最初的 Boosting算法。

一年后 ,Freund 提出了一种效率更高的Boosting算法。

但是,这两种算法存在共同的实践上的缺陷 ,那就是都要求事先知道弱学习算法学习正确的下限。

1995年 , Freund和schap ire改进了Boosting算法 ,提出了 AdaBoost (Adap tive Boosting)算法[ 5 ],该算法效率和 Freund于 1991年提出的 Boosting算法几乎相同 ,但不需要任何关于弱学习器的先验知识 ,因而更容易应用到实际问题当中。

之后 , Freund和 schap ire进一步提出了改变 Boosting投票权重的 AdaBoost .M1,AdaBoost . M2等算法 ,在机器学习领域受到了极大的关注。

2.1 Boosting方法概述Boosting方法是一种用来提高弱分类算法准确度的方法,这种方法通过构造一个预测函数系列,然后以一定的方式将他们组合成一个预测函数。

他是一种框架算法,主要是通过对样本集的操作获得样本子集,然后用弱分类算法在样本子集上训练生成一系列的基分类器。

他可以用来提高其他弱分类算法的识别率,也就是将其他的弱分类算法作为基分类算法放于Boosting 框架中,通过Boosting框架对训练样本集的操作,得到不同的训练样本子集,用该样本子集去训练生成基分类器;每得到一个样本集就用该基分类算法在该样本集上产生一个基分类器,这样在给定训练轮数 n 后,就可产生 n 个基分类器,然后Boosting框架算法将这 n个基分类器进行加权融合,产生一个最后的结果分类器,在这 n 个基分类器中,每个单个的分类器的识别率不一定很高,但他们联合后的结果有很高的识别率,这样便提高了该弱分类算法的识别率。

在产生单个的基分类器时可用相同的分类算法,也可用不同的分类算法,这些算法一般是不稳定的弱分类算法,如神经网络(BP) ,决策树(C4 5)等。

2.2 Adaboost算法由于Boosting算法在解决实际问题时有一个重大的缺陷,即他们都要求事先知道弱分类算法分类正确率的下限,这在实际问题中很难做到。

后来 Freund 和 Schapire提出了 AdaBoost 算法,该算法的效率与 Freund 方法的效率几乎一样,却可以非常容易地应用到实际问题中。

AdaBoost 是Boosting 算法家族中代表算法,AdaBoost 主要是在整个训练集上维护一个分布权值向量 D( x) t ,用赋予权重的训练集通过弱分类算法产生分类假设 Ht ( x) ,即基分类器,然后计算他的错误率,用得到的错误率去更新分布权值向量 D( x) t ,对错误分类的样本分配更大的权值,正确分类的样本赋予更小的权值。