Ache o máximo e o mínimo de f em R. (Recorra aos Exercícios 3-8 para extremos locais.)
f(x, y)=x^{2}-3 x y-y^{2}+2 y-6 x;
R=\{(x, y):|x| \leq 3,|y| \leq 2\}

Passo 1

O enunciado dá a função
f(x,y)=x^{2}-3xy-y^{2}+2y-6x
e o conjunto compacto
R=\{(x,y):|x|\le 3,\;|y|\le 2\},
isto é, o retângulo fechado com vértices (-3,-2),(-3,2),(3,-2),(3,2).
O que a questão pede: encontrar o máximo e o mínimo de f em R (valores e pontos onde ocorrem).

Passo 2

Estratégia que vou aplicar (breve explicação didática): para funções contínuas em conjuntos compactos, os extremos globais ocorrem ou em pontos críticos interiores (onde o gradiente é zero) ou na fronteira. Então primeiro encontro os pontos críticos interiores resolvendo [\nabla f=0); depois examino a fronteira (cada aresta do retângulo é um problema de uma variável) e comparo todos os valores obtidos.
Calcule as derivadas parciais:
\frac{\partial f}{\partial x}=2x-3y-6, \qquad \frac{\partial f}{\partial y}=-3x-2y+2.
Igualo ambas a zero para achar pontos críticos interiores:
\begin{cases} 2x-3y-6=0,\\[4pt] -3x-2y+2=0. \end{cases}
Resolvo o sistema linear. Da primeira equação
2x=6+3y\quad\Rightarrow\quad x=3+\tfrac{3}{2}y.
Substituo na segunda:
-3\Bigl(3+\tfrac{3}{2}y\Bigr)-2y+2=0
-9-\tfrac{9}{2}y-2y+2=0
-7-\tfrac{13}{2}y=0
\tfrac{13}{2}y=-7\quad\Rightarrow\quad y=-\tfrac{14}{13}.
Então
x=3+\tfrac{3}{2}\Bigl(-\tfrac{14}{13}\Bigr)=3-\tfrac{21}{13}=\tfrac{18}{13}.
Portanto há um único ponto crítico interior:
\Bigl(\tfrac{18}{13},-\tfrac{14}{13}\Bigr).
Verifico que ele está dentro do retângulo porque \tfrac{18}{13}\approx1{,}38\in[-3,3]\] e \(-\tfrac{14}{13}\approx-1{,}08\in[-2,2].]

Passo 3

Classificação do ponto crítico (aula rápida sobre Hessiana): para decidir se um ponto crítico é mínimo, máximo ou sela, uso a matriz Hessiana
H= \begin{pmatrix} f_{xx} & f_{xy}\\[4pt] f_{yx} & f_{yy} \end{pmatrix} = \begin{pmatrix} 2 & -3\\[4pt] -3 & -2 \end{pmatrix}.
O determinante de H é
\det H = 2\cdot(-2)-(-3)^2 = -4-9=-13<0.
Quando \det H<0 a Hessiana é indefinida e o ponto crítico é um ponto de sela (nem máximo nem mínimo local). Portanto esse ponto não é candidato a extremo global (a não ser que a fronteira não ofereça valores maiores/menores, mas seguiremos e compararemos).]

Passo 4

Avalio f no ponto crítico (cálculo detalhado):
f\Bigl(\tfrac{18}{13},-\tfrac{14}{13}\Bigr) =\Bigl(\tfrac{18}{13}\Bigr)^2-3\Bigl(\tfrac{18}{13}\Bigr)\Bigl(-\tfrac{14}{13}\Bigr)-\Bigl(-\tfrac{14}{13}\Bigr)^2+2\Bigl(-\tfrac{14}{13}\Bigr)-6\Bigl(\tfrac{18}{13}\Bigr).
Coloco tudo sobre 169 (pois 13^2=169):
\frac{324}{169}+\frac{756}{169}-\frac{196}{169}-\frac{364}{169}-\frac{1404}{169}=\frac{324+756-196-364-1404}{169}=\frac{-884}{169}=-\tfrac{68}{13}.
Assim
f\Bigl(\tfrac{18}{13},-\tfrac{14}{13}\Bigr)=-\tfrac{68}{13}\approx-5{,}2308.

Passo 5

Agora examino a fronteira: aresta x=3, y\in[-2,2].
Defino g_1(y)=f(3,y). Substituo:
g_1(y)=3^2-3\cdot3y-y^2+2y-6\cdot3=-9-7y-y^2.
Derivada:
g_1'(y)=-2y-7.
Solução de g_1'(y)=0 é y=-\tfrac{7}{2}=-3{,}5, fora de [-2,2]. Como g_1' é negativo em todo o intervalo, g_1 é decrescente em [-2,2]. Portanto máximos/minimos ocorrem nas extremidades do intervalo:
g_1(-2)=-(-2)^2-7(-2)-9= -4+14-9=1,
g_1(2)=-4-14-9=-27.
Assim na aresta x=3 os candidatos são (3,-2) com f=1 e (3,2) com f=-27.

Passo 6

Aresta x=-3, y\in[-2,2].
Defino g_2(y)=f(-3,y):
g_2(y)=(-3)^2-3(-3)y-y^2+2y-6(-3)=27+11y-y^2.
Derivada:
g_2'(y)=-2y+11,
que zera em y=\tfrac{11}{2}=5{,}5, fora do intervalo. Aqui g_2'\!>\!0 no intervalo, então g_2 é crescente em [-2,2]. Valores nas extremidades:
g_2(-2)= -4-22+27=1,
g_2(2)= -4+22+27=45.
Assim na aresta x=-3 os candidatos são (-3,-2) com f=1 e (-3,2) com f=45.

Passo 7

Aresta y=2, x\in[-3,3].
Defino h_1(x)=f(x,2):
h_1(x)=x^2-3x\cdot2-2^2+2\cdot2-6x=x^2-12x.
Derivada:
h_1'(x)=2x-12,
que zera em x=6, fora de [-3,3]. No intervalo h_1'\!<\!0, então h_1 é decrescente, e extremos nas extremidades:
h_1(-3)=(-3)^2-12(-3)=9+36=45,
h_1(3)=9-36=-27.
Isso reproduz (-3,2) com 45 e (3,2) com -27 já encontrados.

Passo 8

Aresta y=-2, x\in[-3,3].
Defino h_2(x)=f(x,-2):
h_2(x)=x^2-3x(-2)-(-2)^2+2(-2)-6x = x^2+6x-4-4-6x = x^2-8.
Derivada:
h_2'(x)=2x,
que zera em x=0 (este está dentro do intervalo). Como h_2 é um quadrado positivo menos 8, é convexo; x=0 dá o mínimo local/ global na aresta. Avalio:
h_2(0)=-8,\qquad h_2(3)=9-8=1,\qquad h_2(-3)=9-8=1.
Logo na aresta y=-2 os candidatos são (0,-2) com f=-8 e os cantos (\pm3,-2) com f=1.

Passo 9

Reúno todos os valores candidatos (interior + fronteira):
\begin{aligned} &f\Bigl(\tfrac{18}{13},-\tfrac{14}{13}\Bigr)=-\tfrac{68}{13}\approx-5{,}2308,\\\ &f(3,2)=-27,\\\ &f(3,-2)=1,\\\ &f(-3,2)=45,\\\ &f(-3,-2)=1,\\\ &f(0,-2)=-8. \end{aligned}
Comparo: o maior valor é 45 em (-3,2). O menor valor é -27 em (3,2). (Note que -27<-8<-\tfrac{68}{13}, então (3,2) realmente é mínimo global.)

Resposta

Máximo global: f(-3,2)=45.
Mínimo global: f(3,2)=-27.