在学习运筹学非线性规划部分时,用到过一个一笔带过的小结论,描述如下:
设$R$是$n$维欧式空间$E_n$上的某一开集,$f(\mathbf{X})$在$R$上有连续一阶偏导数,记$\mathbf{X} ^ *$是$f(\mathbf{X}) = c$上一点,其中 $\mathbf{X} ^ * \in R$ , $\nabla f(\mathbf{X} ^ *)$是$f(\mathbf{X})$ 在$\mathbf{X} ^ *$的梯度,对于$f(\mathbf{X}) = c$ 可看作一等值线,那么 $\nabla f(\mathbf{X} ^ *)$ 必与等值线平面内过$\mathbf{X} ^ *$ 点的切线正交
该结论很容易理解,对有约束非线性规划问题的求解有重要作用,在此给出简单证明
首先,令
$$ \mathbf{X} = (x_1, x_2,\dots, x_n) ^ T $$那么
$$ \nabla f(\mathbf{X}) = (\frac{\partial f}{\partial x_1}, \frac{\partial f}{\partial x_2}, \dots, \frac{\partial f}{\partial x_n}) ^ T $$
对于$f(\mathbf{X})$ 上任意一点处切线的方向,可以由${\rm d}\mathbf{X} = (dx_1, dx_2, \dots, dx_n) ^ T$ 来表示
对
两边求全微分,得到
$$ \frac{\partial f}{\partial x_1} {\rm d}x_1 + \frac{\partial f}{\partial x_2} {\rm d}x_2 + \dots + \frac{\partial f}{\partial x_n} {\rm d}x_n = 0 $$显然,该等式左侧可以表示为
$$ ({\rm d}x_1, {\rm d}x_2, \dots, {\rm d}x_n) \bullet (\frac{\partial f}{\partial x_1}, \frac{\partial f}{\partial x_2}, \dots, \frac{\partial f}{\partial x_n}) ^ T $$所以,
$$ ({\rm d}\mathbf{X}) ^ T \nabla f(\mathbf{X}) = 0 $$即切线方向与梯度方向正交。