Lagrange 乘数法

「拉格朗日乘数法」（Lagrange）是解决条件极值问题的一种方法。条件极值研究如何寻找在下取得极值的必要条件。根据条件极值中的相关推导，得到

构造函数

称之为「拉格朗日函数」，对其求偏导可以得到

此方程组形式与之前求得的条件极值点必要条件相呼应，故构造拉格朗日函数有助于我们解决问题。

通过构造拉格朗日函数，把条件极值问题转化为自由极值问题，因此可以得到驻点（但不一定是极值点！）

原问题是最值问题，只需比较驻点的函数值，最大的为最大值，最小的为最小值。此方法被称为拉格朗日乘数法，其中为拉格朗日乘数，通常不等于 0

拉格朗日乘数法在支持向量机中有所应用

例题

例一

求在下的最值

解：

设，并令各个偏导数为零

$，代入第三个方程，$

$对方程二得到，$

$于是得到四个驻点$

现在比较函数值大小

$，求得最大值和最小值$

例二

$求在第一卦限的切平面与三个坐标面所围成的四面体的最小体积$

解：

$设椭球面上任意一点处的切平面方程为$

即得到了切平面的截距式

目标函数

注意约束条件

在椭球上
在第一卦限

$设$

解的过程看不见

$唯一驻点为$

例三

$在曲面上求一点，使得在处沿的方向导数最大$

解：

$，此时为动点，约束条件为椭球$

$故目标函数为$

$设$

令

$得到，代入最后一式得到$

$对应的驻点为，$

$，$

例四

$求在（）的最大值，并以此证明$

解

$设$

解方程

$代入方程四得$

$驻点$

接下来证明不等式

$由对数函数单增性$

$令，即得所证等式$

例五

消参得到柱面

$在柱面上的最值（直接用代入法）$