為什麼這篇鞍點 判別式鄉民發文收入到精華區：因為在鞍點 判別式這個討論話題中，有許多相關的文章在討論，這篇最有參考價值！作者math1209 (.......................)看板trans_math標題...
鞍點 判別式 在 S o n i a | 收信快樂 Instagram 的最佳貼文
2020-05-10 05:42:40
很多人都說，蘇花公路是一條危險公路，也有人這麼形容它是一條死亡公路。 單車上路的前夕，我一直在和身體對話，別做勉強的事，不要對旅行逞強，就和爬山一樣。 前一晚在壽豐睡得可飽，天氣眷顧，當踏上蘇花路口時，就感到一絲無可退路，不行的話就找個安全駕駛搭便車。 但可能是旭海滿洲鄉一代，讓我覺得太過殘酷，...
※ 引述《midarmyman (midarmyman)》之銘言：
: 偏微分求極值時，判別式大於零之外，
: 還要看fxx如果>0就是極小，反之
: 請問為啥要看fxx不看fyy?
: 遇到一題變數不是x.y不知道該看哪個(不過都正)
[我先給 Part 1, 假使有必要後面還有 Part 2-5.]
以下將講多變數函數世界裡頭的極值判別法則，而單變數中的極值判別法則相對於多變數
中的極值判別法則來的簡單，故省略。
(引理) 命 f：S → |R, 其中 S is open in |R^n with a in S, 且 f 於 ａ 點有方向
導數。若 f(ａ) 為極值點，則
D_u f(ａ) ＝ 0.
↓ kth component
特別地，選取 u ＝ u_k ＝ (0,...,1,...,0), 則 D_k f(ａ) ＝ 0 for all
k ＝ 1,2,...,n. 也就是說，此時 ▽f(ａ)＝0.
因此，欲深究一內點 ａ 是否為極值點，我們就必須先假定 ▽f(ａ)＝0. 再來回憶
f(ａ＋ｋ) ＝ f(ａ) ＋ ▽f(ａ)．ｋ ＋ (1/2!) ＜Hｋ,ｋ＞ ＋ R_ａ,2(ｋ),
其中 H ＝ H(ａ), Hessian matrix of f at ａ.
NOTE. 只要談論到極值問題往往就會涉及到泰勒定理(具備餘項)。
(主定理)
假定 ▽f(ａ)＝0, 即 ａ 點為 critical point, 且二階偏導數 D_i,j f(ｘ) 存在於
B(ａ), 且連續於 ａ 點上。
(1) 若 ＜ Hｋ,ｋ＞ 恆正 for all ｋ ≠ 0, 則 f(ａ) 為 local minimum.
(2) 若 ＜ Hｋ,ｋ＞ 恆負 for all ｋ ≠ 0, 則 f(ａ) 為 local maximum.
(3) 若 ＜ Hｋ,ｋ＞ 有正有負，則 ａ 點為 saddle point (鞍點)。
(鞍點定義) 若 ａ 為 critical point 且對於任意的 B(ａ) 中有點 ｘ, ｙ 使得
f(ｘ) ＞ f(ａ) 且 f(ｙ) ＜ f(ａ)
則稱 ａ 點為鞍點。
由此可見，鞍點必定不是極值點。
Proof. 我們需要兩個 lemmas:
(lemma 1) 若 H＞0，則必存在一正數 c, 使得＜ Hｋ,ｋ＞ ≧ c|ｋ|^2 for all ｋ.
(lemma 2) |R_ａ,2(ｋ)|/|ｋ|^2 → 0 as ｋ→ 0.
由上述兩引理，可證明此主定理。
NOTE.
(i) 由二階偏導數 D_i,j f(ｘ) 存在於 B(ａ), 且連續於 ａ 點上, 可知 H 為對稱
矩陣，即 H^t ＝ H.
(ii) 對一個對稱矩陣 H 而言，
當 ＜ Hｋ,ｋ＞ 恆正 for all ｋ ≠ 0, 我們稱 H 為正定，且記為 H ＞ 0.
當 ＜ Hｋ,ｋ＞ 恆負 for all ｋ ≠ 0, 我們稱 H 為負定，且記為 H ＜ 0.
(正定原文為 positive definite, 負定原文為 negative definite.)
因此根據上述主定理可知：
當 ａ 為 critical point 時，且 Hessian matrix H(ａ) ＞ 0 表示
f(ａ) 有局部極小。
簡記為 {▽f(ａ) ＝ 0} ＋ {H(a) ＞ 0} ＝＞ f(ａ): local min.
當 ａ 為 critical point 時，且 Hessian matrix H(ａ) ＜ 0 表示
f(ａ) 有局部極大。
簡記為 {▽f(ａ) ＝ 0} ＋ {H(a) ＜ 0} ＝＞ f(ａ): local max.
(iii)
╭ D_11 f(ａ) ．．． D_1n f(ａ) ╮╭ k_1 ╮ ╭ k_1 ╮
＜Hｋ,ｋ＞ ＝ ＜ │ ．．． ．．． ．．． ││ ． │ │ ． │＞
╰ D_n1 f(ａ) ．．． D_nn f(ａ) ╯╰ k_n ╯ ,╰ k_n ╯
n n
＝ Σ Σ D_ij f(ａ) k_i k_j.
i＝1 j＝1
即 H:|R^n→|R by H(k):＝ ＜Hｋ,ｋ＞. 如此之 H 稱為二次型 (Quadratic form.)
(iv) 主定理告訴了我們一件重要的事情：在主定理的假設底下，餘項對我們來說一
點也不重要，也就是說餘項不會影響到函數本身的極值問題。即腦海要想著
f(ａ＋ｋ) ～ f(ａ) ＋ (1/2!) ＜Hｋ,ｋ＞ (因 ▽f(ａ) ＝ 0)
這樣一來，f(ａ＋ｋ) － f(ａ) ～ (1/2!) ＜Hｋ,ｋ＞.
因此，f(ａ＋ｋ) － f(ａ) 的正負可由 ＜Hｋ,ｋ＞ 決定之。
(v) 最後提到一點線性代數，他將用在 Part 2 裡頭的推論 1.
對一個對稱矩陣 H 而言：
H ＞ 0 ＜＝＞ H 的所有 eigenvalues 都必須恆正。
H ＜ 0 ＜＝＞ H 的所有 eigenvalues 都必須恆負。
--
Good taste, bad taste are fine, but you can't have no taste.
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 220.133.4.14
→ math1209:midarmyman 要問的東西在 Part 4. 220.133.4.14 12/16 18:01
→ midarmyman:小弟知識淺薄 似乎不大懂 140.117.198.78 12/16 18:13
→ midarmyman:不過還想請問如果兩個變數不是x.y那要 140.117.198.78 12/16 18:14
→ midarmyman:看哪個變數的二階偏導數呢? 140.117.198.78 12/16 18:14
→ math1209:不是這樣說的...你得去看 Hessian Matrix 220.133.4.14 12/16 18:15
→ math1209:只有雙變數時, 這時候產生的 Hessian 220.133.4.14 12/16 18:16
→ math1209:Matrix 是 2*2 矩陣. 因此此矩陣的正負定 220.133.4.14 12/16 18:16
→ math1209:可以看出是為極值點... 220.133.4.14 12/16 18:17
→ math1209:而你說的結論是正負定的 2x2 的特殊例子 220.133.4.14 12/16 18:17
推 midarmyman:唉 線性代數現在才上到eigenvaluel 140.117.198.78 12/16 18:22
→ midarmyman:那以後遇到這種怎辦? 140.117.198.78 12/16 18:24
→ math1209:遇到什麼? 看不懂就先背 2x2 的情況... 220.133.4.14 12/16 18:25
→ math1209:我的記憶方法是直接看 y = x^2. 220.133.4.14 12/16 18:26
→ math1209:這函數在 0 點導數是 0. 二階導數為 2. 220.133.4.14 12/16 18:26
→ math1209:因此這函數極小點發生在 x = 0. (事實上, 220.133.4.14 12/16 18:27
→ math1209:是最小點.) 反之, y = -x^2 在原點產生 220.133.4.14 12/16 18:27
→ math1209:極大點. 220.133.4.14 12/16 18:28
→ midarmyman:我PO題目 140.117.198.78 12/16 18:31
推 midarmyman:我寫在原文了 140.117.198.78 12/16 18:37
推 aacvbn:有神 快拜 163.22.18.76 12/16 22:03