극값과 안장점

$f(x,y) = x^2 +cxy +y^2$ 이라 하자. 그러면

$$\begin{aligned} f_x(x,y)&= 2x+cy & f_x(0,0) = 0 \\ f_y(x,y)&= cx+2y & f_y(0,0) = 0 \\ f_{xx}(x,y) &= 2 \\ f_{xy}(x,y) &= c \\ f_{yy}(x,y) &= 2 \end{aligned}$$

$f_x(0,0)=f_y(0,0)=0$ 이므로 $(0,0)$ 은 항상 $f$ 의 임계점이다. 2계 도함수 판정법에 따르면, 다음이 성립할 때 $(0,0)$ 은 $f$ 의 안장점이다.

$$\begin{aligned} f_{xx}(0,0) f_{yy}(0,0) - f_{xy}(0,0)^2 <0 \iff 4-c^2 <0 \iff |c|>2 \end{aligned}$$

참고로, 식 $f_{xx}(0,0) f_{yy}(0,0) - f_{xy}(0,0)^2 =0$ 일 때, 즉 $c=\pm 2$ 일 때에는 2계 도함수 판정법으로 알 수 있는 정보가 없다. 그런데 $c=\pm 2$ 일 때

$$f(x,y) = x^2 \pm 2xy + y^2 =(x\pm y)^2$$

이고, $f$ 는 $(0,0)$ 에서 안장점이 아니라 극솟값을 갖는다.