(a)
ffxfy=2x3−6xy+y2+4y=6x2−6y=−6x+2y+4fxxfyy=12x=2fxy=−6
이므로 임계점은 다음 식의 해이다.
⟺⟺⟺fx=0y=x2y=x2y=x2fy=0y−3x+2=0x2−3x+2=0x=1 또는 2
따라서 임계점은 (1,1), (2,4) 의 두 개이다.
점임계(1,1)(2,4)fxxfyy−fxy212×2−(−6)2<024×2−(−6)2>0fxx24종류안장점극소
(b)
허용된 영역의 내부에는 임계점이 없으므로 최댓값과 최솟값은 모두 경계에서만 나타난다. 경계는 선분 (i) x=1, 0≤y≤1, (ii) y=1, 0≤x≤1, (iii) y=1−x, 0≤x≤1 로 이루어져 있다.

- 먼저 경계 중 x=1 인 부분을 살펴보자. 여기서 f=y2−2y+2 이다.
dyd(y2−2y+2)=2y−2 는 y=1 에서만 0 이 되므로,
0≤y≤1 에서 y2−2y+2 의 최댓값과 최솟값은 y=0 일 때(f=2) 또는 y=1 일 때(f=1)에 나타난다.
- 다음으로 경계 중 y=1 인 부분을 살펴보자. 여기서 f=2x3−6x+5 이다.
dxd(2x3−6x+5)=6x2−6 이므로,
0≤x≤1 에서 2x3−6x+5 의 최댓값과 최솟값은 x=0 일 때(f=5) 또는 x=1 일 때(f=1)에 나타난다.
- 다음으로 경계 중 y=1−x 인 부분을 살펴보자. 여기서 f=2x3−6x(1−x)+(1−x)2+4(1−x)=2x3+7x2−12x+5 이다.
dxd(2x3+7x2−12x+5)=6x2+14x−12=2(3x2+7x−6)=2(3x−2)(x+3) 이므로,
0≤x≤1 에서 2x3+7x2−12x+5 의 최댓값과 최솟값은 x=0 일 때(f=5), 또는 x=1 일 때(f=2), 또는 x=32 일 때(f=2(278)−6(32)(31)+91+34=2716−36+3+36=2719)에 나타난다.
따라서 종합하면 최댓값과 최솟값의 후보는 다음과 같으며, 최댓값과 최솟값을 표시하였다.
점함숫값 f(1,0)2(1,1)1(0,1)5최대(32,31)2719최소