Lagrangeの乗数法 (ラグランジュの乗数法)

主成分分析の本を読んでいると、Lagrange乗数法というものが登場。
はじめて聞いてわからなかったので色々ネットで調べてみる。
2変数の問題なのに、もう一変数導入するという、不思議なことをしているのだけど、
最終的に、この方法を使うことで、固有値、固有ベクトルの問題に帰着できている。
Lagrangeの乗数法は以下のようなもの。

http://markun.cs.shinshu-u.ac.jp/learn/biseki/no_12/ragu.html
のサイトを参照しました。

〇 Lagrangeの乗数法

条件付き極値問題というものの一つ。
条件 g(x, y) = 0 のもとで関数 f(x, y) の極値を求める。
このとき、 3 変数の関数

F(x, y, λ) = f(x, y) + λ*g(x, y)

を考えて、連立方程式

F_λ = g(x, y) = 0
F_x = f_x (x, y) + λ_gx (x, y) = 0
F_y = f_y (x, y) + λ_gy (x, y) = 0

をみたす解 (x, y) が極値の候補となる。
このようにして極値を求める方法を Lagrange の乗数法 という。
λを Lagrange 乗数 という。