博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
【机器学习】多元函数梯度的理解
阅读量:2052 次
发布时间:2019-04-28

本文共 1282 字,大约阅读时间需要 4 分钟。

一元函数的导数

导数的几何意义是很明确的,一个函数上某点的导数可以表示为该点在函数曲线上的切线斜率。或者从极限的角度来看,导数表示该点在函数上的变化率:

f ′ ( x 0 ) = l i m Δ x → 0 f ( x 0 + Δ x ) − f ( x 0 ) Δ x f'(x_{0}) = \mathop{lim} \limits_{\Delta x \to 0} \frac{f(x_{0}+\Delta x) - f(x_{0})}{\Delta x} f(x0)=Δx0limΔxf(x0+Δx)f(x0)即对于函数上的某一点,当该点的变化趋于0时,函数值的变化与自变量变化的比值代表了导数。

多元函数的偏导

对于多元函数,我们所说的偏导数指的就是多元函数沿着坐标轴方向的变化率。例如对于二元函数 z = f ( x , y ) z = f(x, y) z=f(x,y)来说, f x ( x , y ) f_{x}(x, y) fx(x,y)指的是函数在 y y y方向不变,函数沿着 x x x方向的变化率。

对于空间中的一点 ( x 0 , y 0 ) (x_{0}, y_{0}) (x0,y0)处的偏导数的几何意义是: f x ( x 0 , y 0 ) f_{x}(x_{0}, y_{0}) fx(x0,y0)表示曲面函数 z = f ( x , y ) z = f(x, y) z=f(x,y)被平行于 x O z xOz xOz平面的 y = y 0 y = y_{0} y=y0平面所截得的曲线,在点 ( x 0 , y 0 ) (x_{0}, y_{0}) (x0,y0)处沿着 x x x轴方向的斜率。

多元函数的梯度

由于偏导数只能表示多元函数沿着坐标轴的变化率,但是在实际很多情况中,我们需要得到多元函数沿着任意方向的变化率,所以就引入了方向导数。因此,方向导数的作用就是用于计算多元函数任意方向的变化率。

在多维空间中,梯度是一个向量,表示某个函数在该点处的方向导数沿着该方向取得最大值,也即是,函数沿着梯度方向的变化速度是最快的

因此,梯度的方向是方向导数中取到最大值的方向,梯度的值是方向导数的最大值。

对于多元函数而言,每个变量只要沿着这个变量的偏导的方向变化,函数的整体变化就可以达到最大,因此多元函数的梯度可以表示为: g r a d   F ( x 0 , y 0 , z 0 ) = ( F x ( x 0 , y 0 , z 0 ) , F y ( x 0 , y 0 , z 0 ) , F z ( x 0 , y 0 , z 0 ) ) grad \ F(x_{0}, y_{0}, z_{0}) = (F_{x}(x_{0}, y_{0}, z_{0}), F_{y}(x_{0}, y_{0}, z_{0}), F_{z}(x_{0}, y_{0}, z_{0})) grad F(x0,y0,z0)=(Fx(x0,y0,z0),Fy(x0,y0,z0),Fz(x0,y0,z0))

参考资料

转载地址:http://kzklf.baihongyu.com/

你可能感兴趣的文章
【UML】《Theach yourself uml in 24hours》——hour4
查看>>
Set、WeakSet、Map以及WeakMap结构基本知识点
查看>>
【NLP学习笔记】(一)Gensim基本使用方法
查看>>
【NLP学习笔记】(二)gensim使用之Topics and Transformations
查看>>
【深度学习】LSTM的架构及公式
查看>>
【深度学习】GRU的结构图及公式
查看>>
【python】re模块常用方法
查看>>
【JavaScript】call()和apply()方法
查看>>
【JavaScript】箭头函数与普通函数的区别
查看>>
前端面试题
查看>>
【JavaScript】常用方法记录
查看>>
C++ 数据存储类型
查看>>
39. Combination Sum
查看>>
剑指Offer 1.二维数组中的查找
查看>>
剑指offer 2.重建二叉树
查看>>
剑指offer 3.二叉树中和为某一值的路径
查看>>
剑指offer 4.替换空格
查看>>
剑指offer 5.从尾到头打印链表
查看>>
剑指offer 6.用两个栈实现队列
查看>>
剑指offer 7.旋转数组的最小数字
查看>>