數學學院

首頁 › 大學 › 大二

梯度與方向導數

大二 · 微積分

觀念

xy∇fPf = x² + y² 的等高線∇f 垂直等高線、指向上升最快O

梯度 (gradient) ∇f=(fx,fy)\nabla f = (f_x, f_y) 把所有偏導數打包成一個向量。它有兩個重要性質:指向函數上升最快的方向,長度等於最大上升率;並且垂直於等高線。

沿單位向量 u\mathbf{u} 的方向導數 (directional derivative) 是 Duf=∇f⋅u=∣∇f∣cos⁡θD_\mathbf{u}f = \nabla f\cdot\mathbf{u} = |\nabla f|\cos\theta——所以 θ=0\theta = 0(沿梯度)最大、θ=90∘\theta = 90^\circ(沿等高線)為 0。方向向量一定要先化成單位長。

算例:f=x2+2y2f = x^2 + 2y^2 在 (1,1)(1,1),∇f=(2,4)\nabla f = (2, 4);沿 (3,4)/5(3,4)/5 的方向導數 =6+165=225= \frac{6+16}{5} = \frac{22}{5};最大上升率 20\sqrt{20}。

梯度下降法 (gradient descent) 就是沿 −∇f-\nabla f 走;它是訓練神經網路的核心演算法。

例題

xyP(3,3)藍線:f = 18 的等高線-4-3-2-11234-4-3-2-11234O

設 f(x,y)=−2x2+3xy+y2f(x,y) = - 2 x^{2} + 3 x y + y^{2},求梯度 (gradient) ∇f(3,3)\nabla f(3, 3),填有序組。

看解法與答案

梯度是兩個偏導數排成的向量:∇f=(fx,fy)\nabla f = (f_x, f_y)。

先求偏導數:fx=−4x+3yf_x = - 4 x + 3 y、fy=3x+2yf_y = 3 x + 2 y。

代 (3,3)(3,3):fx=−4⋅(3)+3⋅(3)=−3f_x = -4\cdot(3) +3\cdot(3) = -3,fy=3⋅(3)+2⋅(3)=15f_y = 3\cdot(3) +2\cdot(3) = 15,所以 ∇f(3,3)=(−3, 15)\nabla f(3,3) = (-3,\ 15)。

答案: (−3,15)(-3, 15)

用在哪裡

插畫

梯度與方向導數:情境插畫梯度與方向導數:例題插畫

學習路徑

先學會

學完可以接著學

互動練習在本機版

這個網站是觀念與例題的閱讀版。互動練習(每次出不同數字的新題、自動判對錯、錯題本、熟練度與複習排程)在「數學學院」本機版,目前還沒對外開放。