Featured image of post 关于等值线切线方向与梯度方向正交的证明

关于等值线切线方向与梯度方向正交的证明

NLP问题用到的一个小结论


在学习运筹学非线性规划部分时,用到过一个一笔带过的小结论,描述如下:

设$R$是$n$维欧式空间$E_n$上的某一开集,$f(\mathbf{X})$在$R$上有连续一阶偏导数,记$\mathbf{X} ^ *$是$f(\mathbf{X}) = c$上一点,其中 $\mathbf{X} ^ * \in R$ , $\nabla f(\mathbf{X} ^ *)$是$f(\mathbf{X})$ 在$\mathbf{X} ^ *$的梯度,对于$f(\mathbf{X}) = c$ 可看作一等值线,那么 $\nabla f(\mathbf{X} ^ *)$ 必与等值线平面内过$\mathbf{X} ^ *$ 点的切线正交

该结论很容易理解,对有约束非线性规划问题的求解有重要作用,在此给出简单证明


首先,令

$$ \mathbf{X} = (x_1, x_2,\dots, x_n) ^ T $$

那么

$$ \nabla f(\mathbf{X}) = (\frac{\partial f}{\partial x_1}, \frac{\partial f}{\partial x_2}, \dots, \frac{\partial f}{\partial x_n}) ^ T $$

对于$f(\mathbf{X})$ 上任意一点处切线的方向,可以由${\rm d}\mathbf{X} = (dx_1, dx_2, \dots, dx_n) ^ T$ 来表示

$$ f(\mathbf{X}) = c $$

两边求全微分,得到

$$ \frac{\partial f}{\partial x_1} {\rm d}x_1 + \frac{\partial f}{\partial x_2} {\rm d}x_2 + \dots + \frac{\partial f}{\partial x_n} {\rm d}x_n = 0 $$

显然,该等式左侧可以表示为

$$ ({\rm d}x_1, {\rm d}x_2, \dots, {\rm d}x_n) \bullet (\frac{\partial f}{\partial x_1}, \frac{\partial f}{\partial x_2}, \dots, \frac{\partial f}{\partial x_n}) ^ T $$

所以,

$$ ({\rm d}\mathbf{X}) ^ T \nabla f(\mathbf{X}) = 0 $$

即切线方向与梯度方向正交。

Licensed under CC BY-NC-SA 4.0
Powered by Hugo with Stack
使用 Hugo 构建
主题 StackJimmy 设计, 由 秦时月 修改