3 幾何学的表現

最適化問題の性質をより良く理解するために、以下の例を考えてみましょう：

$f(x)=e^{x_1}(4x_1^2+2x_2^2+4x_1{x}_2+2x_2+1).$

（この関数は、制約のない最適化ルーチンのドキュメントで例題関数として使用されています。）

図1は$f(x)$の等高線図を示しています。$F_0,F_1,\dots ,F_4$とラベル付けされた等高線は、等値線または関数$f(x)$が特定の一定値をとる線です。点$x^{\ast }=(\frac{1}{2},-1{)}^T$は局所無制約最小値です。つまり、$f(x^{\ast })$の値（$=0$）は周囲のすべての点よりも小さくなっています。関数には複数のこのような最小値が存在する可能性があります。

点$x_s$は鞍点と呼ばれます。これは、線ABに沿っては最小値ですが、CDに沿っては最大値となるためです。

$f(x)$の最小化問題に制約$x_1\ge 0$（単純な境界制約）を追加しても、解は変わりません。図1では、この制約は$x_1=0$を通る直線で表され、線上の影は許容されない領域（$x_1<0$）を示しています。

非線形制約$g_1(x):x_1+x_2-x_1{x}_2-\frac{3}{2}\ge 0$を追加すると（図1の曲線の影付き線で表されています）、$x^{\ast }$は実行可能点ではなくなります。これは$g_1(x^{\ast })<0$となるためです。新しい制約付き問題の解は$x_b\simeq (1.1825,-1.7397{)}^T$となり、これは実行可能領域内で最小の関数値を持つ点です（ここで$f(x_b)\simeq 3.0607$）。