As perguntas são:
a) Determinar o maior conjunto (intervalo) em que f é contínua.
b) Determinar as derivadas parciais de primeira ordem f_{x} e f_{y} (ou seja, as fórmulas para \dfrac{\partial f}{\partial x} e \dfrac{\partial f}{\partial y}), tanto para (x,y)\neq(0,0) quanto no ponto (0,0) quando for o caso.
Informações relevantes dadas pelo enunciado:
A expressão fechada \dfrac{x^{3}y}{x^{2}+y^{2}} vale para todos os pontos exceto a origem, onde o denominador seria zero.
O valor de f no ponto (0,0) foi definido igual a 0.]
Passo 2
Continuidade fora da origem: argumento teórico e aplicação.
Lembrando: uma função racional (quociente de polinômios) é contínua em todo ponto onde o denominador é diferente de zero.
Aqui, para (x,y)\neq(0,0) tem-se denominador x^{2}+y^{2}>0, logo a função dada por \dfrac{x^{3}y}{x^{2}+y^{2}} é contínua em todo \mathbb{R}^{2}\setminus\{(0,0)\}.
Portanto, já sabemos que f é contínua em todo ponto fora da origem.
Passo 3
Continuidade em (0,0): verificar limite \lim_{(x,y)\to(0,0)} f(x,y) e comparar com f(0,0)=0.
Técnica prática e robusta: usar coordenadas polares porque aí a dependência do raio r aparece facilmente e facilita ver se o limite é zero independentemente da direção.
Em coordenadas polares: x=r\cos\theta e y=r\sin\theta, com r\ge0 e \theta arbitrário.
quando o limite existir. Análogo para f_{y} trocando os papéis de x e y.
Para pontos (x,y)\neq(0,0) é mais prático usar as regras usuais de diferenciação (regra do quociente), tratando y como constante ao calcular \partial/\partial x, e vice-versa para \partial/\partial y.
Passo 5
Cálculo de f_{x}(x,y) para (x,y)\neq(0,0) usando regra do quociente.
Defina u(x,y)=x^{3}y e v(x,y)=x^{2}+y^{2}. Então f=u/v.
Calcular derivadas parciais necessárias:
u_{x}=3x^{2}y,\qquad v_{x}=2x.
Aplicando a regra do quociente (para derivada em relação a x):