绝对多数投票法

「投票学习法」是一种常见的结合策略。对分类任务来说,学习器 将样本标记集合 中预测一个标记。我们将 在样本 上的预测输出表示为一个 维向量 ,其中 在类别标记 上的输出

绝对多数投票法(Majority Voting)定义为

即若某标记得票过半数,则预测为该标记,否则拒绝预测

相对多数投票法

相对多数投票法(Plurality Voting)定义为

即预测为得票最多的标记,若同时有多个标记获得最高票,则从中随机选取一个。

加权投票法

加权投票法(weighted voting)定义为

与加权平均法类似, 的权重,通常

标准的绝对多数投票法提供了拒绝预测选项,这在可靠性要求较高的学习任务中是一个很好的机制。若学习任务要求必须提供预测结果,则绝对多数投票法将退化为相对多数投票法。

注意。上面的定义没有限制个体学习器输出值的类型。在现实任务中,不同类型个体学习器可能产生不同类型的 值,常见的有

  • 类标记:,若 将样本 预测为类别 则取值为 ,否则取值为 ,使用类标记的投票也称为「硬投票」(Hard Voting)
  • 类概率:,相当于对后验概率 的一个估计。使用类概率的投票亦称为「软投票」(Soft Voting)

注意,不同类型的 值不能混用