计算各个属性划分法对应的类别信息熵，从而计算信息增益

选择信息增益最大的类别

改进

计算各个属性划分法对应的类别的基尼值，然后加权得到基尼系数，选择基尼指数最小的

缺失值处·

对于函数 ，给定初始出发点 ，，利用梯度下降法求其极值

因此 ，

最终 ，终止迭代

无论是输出层还是隐藏层，都遵循

其中 为学习率， 为上一层对应节点的输出，Err 为误差，如果是输出层，则为

其中 为网络输出， 为对应的标号。如果是中间层，则为

为隐藏层输入， 为隐藏层输出， 为后层误差

先写出关于 的表达式

然后利用约束条件 消去一个 ，然后尝试对其进行最大化。分别求偏导找出对应的一组 ，然后结合 取到最合理的 后，计算超平面参数 向量，即

用两个支持向量分别计算后取平均

直接把 带进去算出来，然后看看结果能否被拆成高维空间的内积

先选一个分类器，然后计算训练集误差 ，首先计算分类器的权值 ，然后算各个训练样本的新权重。首先计算出一个 ，然后求和 ，再归一化计算

最后的分类器是所有分类器的加权和。

• 从 中随机选择 个样本作为初始均值向量
• 重复：
  • 基于每个簇的平均值，将每个样本重分配到与之最相似的簇中
  • 为每个簇重新计算平均值
• 直到不发生变化