As informações dadas são exatamente a expressão acima e o ponto para o qual (x,y) tende, que é (0,0). Note que a expressão interna \dfrac{x^{2}+y^{2}}{x+y+1} está bem definida perto de (0,0) porque x+y+1 tende para 1 (não para zero).
Passo 2
Plano de ataque (resolução começa aqui): primeiro vou mostrar que a expressão dentro do cosseno,
\frac{x^{2}+y^{2}}{x+y+1},
tende a 0 quando (x,y)\to(0,0). Depois uso o fato que o cosseno é uma função contínua na reta real para concluir que o limite da composição é o cosseno do limite interior. Vou explicar cada passo com calma.
Passo 3
Começo analisando numerador e denominador separadamente. Quando (x,y)\to(0,0) temos
x^{2}+y^{2}\to 0
porque x\to 0 e y\to 0 implicam x^{2}\to 0 e y^{2}\to 0. E
x+y+1\to 1
porque x+y\to 0 então x+y+1\to 1.
Passo 4
Pelo teorema do limite de quociente (válido também em limites de funções de várias variáveis): se o numerador tende a 0 e o denominador tende a um valor não nulo (aqui 1), então o quociente tende a 0/1=0. Assim, sem mais cálculo,
\lim_{(x,y)\to(0,0)} \frac{x^{2}+y^{2}}{x+y+1}=0.
Passo 5
Se quiser ver uma versão um pouco mais “epsilon-delta” ou com desigualdade para ficar seguro: escolha \delta>0 tal que |x|+|y|<\tfrac{1}{2} sempre que \sqrt{x^{2}+y^{2}}<\delta; isso garante |x+y|\le |x|+|y|<\tfrac{1}{2} e portanto
Como x^{2}+y^{2}\to 0, segue que o lado direito tende a 0, logo a fração também tende a 0. Isto confirma de forma totalmente rígida o resultado do passo anterior.
Passo 6
Concluímos, portanto, que
\lim_{(x,y)\to(0,0)} \frac{x^{2}+y^{2}}{x+y+1}=0.
Passo 7
Agora uso continuidade do cosseno: a função \cos é contínua em todo \mathbb{R}, o que significa que se uma sequência (ou ponto) tem argumento tendendo a L então os valores do cosseno tendem a \cos(L). Em termos de limite:
se \lim_{(x,y)\to(0,0)} u(x,y)=L e \cos é contínua em L, então
\lim_{(x,y)\to(0,0)} \cos(u(x,y))=\cos(L).
Aplicando com u(x,y)=\dfrac{x^{2}+y^{2}}{x+y+1} e L=0, obtemos o resultado.