制約付き最適化問題(ラグランジュ双対問題とKKT条件)
変数の組$${\vec{w}}$$の関数を$${f(\vec{w})}$$書きます。ここで変数の組$${\vec{w}}$$を具体的に書くと、$${\vec{w} = (w_{1},w_{2},…)}$$となっていて、今は変数の個数は指定しないことにします。さて今、関数$${f(\vec{w})}$$の極値を求める問題を以下の制約条件の下で解きたいとします。
$$
g_{i} (\vec{w}) \geq 0 \text{for all}\,\,i.
$$
このとき次