Rápida explicação didática sobre diferenciabilidade complexa e as equações de Cauchy–Riemann (CR):
A derivada complexa f^{\prime}(z_0) existe se o limite
\lim_{h\to 0}\frac{f(z_0+h)-f(z_0)}{h}
existe e é o mesmo para todas as direções de chegada de h no plano complexo.
Uma ferramenta prática: se u e v têm derivadas parciais que são contínuas numa vizinhança de z_0, então a existência de f^{\prime}(z_0) implica que as equações de Cauchy–Riemann valem em (x_0,y_0), e se as CR valem em (x_0,y_0) e as derivadas parciais são contínuas, então f é diferenciável em z_0. As equações CR são:
u_x = v_y,\qquad u_y = -v_x,
onde u_x é a derivada parcial de u em relação a x, etc. Vou usar esse critério porque as derivadas parciais de u e v aqui são polinomiais (logo contínuas).
Passo 4
Calculemos as derivadas parciais de u e v (mostrando passo a passo):
Resolvendo 2x = x dá x=0. Resolvendo 0 = -y dá y=0. Portanto, as equações CR são satisfeitas apenas no ponto (x,y)=(0,0), isto é, apenas em z=0.
Passo 6
Como as derivadas parciais u_x,u_y,v_x,v_y são contínuas em todo o plano (são polinômios), o teorema de Cauchy–Riemann garante que:
se f for complexamente diferenciável num ponto então as CR devem valer nesse ponto (necessidade), e
se as CR valem num ponto e as parciais são contínuas numa vizinhança, então f é diferenciável naquele ponto (suficiência).
Como vimos, as CR valem só em z=0 e as parciais são contínuas, concluímos que f pode ser diferenciável somente em z=0, e de fato é diferenciável em z=0.
Passo 7
Vamos calcular explicitamente f^{\prime}(0) de duas maneiras (para reforçar a intuição):
Forma 1 — pela fórmula que aparece quando as CR valem:
quando CR valem, a derivada complexa pode ser escrita como
f'(z)=u_x + i v_x.
Em (0,0) temos u_x(0,0)=2\cdot 0=0 e v_x(0,0)=y\big|_{(0,0)}=0. Logo
Mas \displaystyle\frac{f(z)}{z}=\operatorname{Re}(z)=x. Ao levar z\to 0 temos x\to 0, então o limite é 0. Concorda com o item anterior.
Passo 8
Para ficar totalmente convincente sobre a não existência da derivada em pontos z_0\neq 0, mostro que a diferença quociente depende da direção (ou seja, limites diferentes ao longo de caminhos distintos). Tome z_0=x_0+i y_0 com (x_0,y_0)\neq(0,0).
Se aproximarmos por incrementos reais h\in\mathbb{R}, então
\frac{f(z_0+h)-f(z_0)}{h} \longrightarrow 2x_0 + i y_0 \quad\text{quando }h\to 0,\\ h\in\mathbb{R}.
(este cálculo vem de desenvolver (x_0+h)^2-x_0^2 e dividir por h).
Se aproximarmos por incrementos puramente imaginários h=it com t\in\mathbb{R}, então
Esses dois limites são iguais somente se 2x_0 + i y_0 = x_0, o que força x_0=0 e y_0=0. Assim para qualquer ponto distinto de 0 os limites dependem da direção e a derivada não existe.
Resposta
f^{\prime}(z) existe somente em z=0, e f^{\prime}(0)=0.