O que é pedido: encontrar as curvas integrais, ou seja, a família de curvas y(x) (implícita ou explicitamente) que satisfazem essa relação.
Informações explícitas que o enunciado fornece e que vamos usar:
Coeficiente de dx: M(x,y)=x y^{2}+x^{2} y.
Coeficiente de dy: N(x,y)=x^{2} y-x y^{2}.
Observação numérica/algebraica óbvia: M e N contêm fatores em x e y que possivelmente permitem simplificação.
Passo 2
Primeiro teste rápido (pode ajudar a escolher método): verificar se a equação é exata. Para uma equação M\,dx+N\,dy=0 ser exata precisa valer \partial M/\partial y=\partial N/\partial x.
Como \,2xy+x^{2}\neq 2xy-y^{2} em geral, a equação NÃO é exata. Portanto vou tentar outro método.
Repare que todos os termos em M e N têm grau homogêneo 3 (cada monômio é de grau x^a y^b com a+b=3). Isso sugere tratar a equação como homogênea e usar a substituição padrão y=vx (ou v=y/x), porque em equações homogêneas a razão v=y/x transforma a EDO em uma de variáveis separáveis em v e x. Vou usar isso a seguir. (Explicação rápida: se M e N são homogêneos do mesmo grau, a razão -M/N depende só de v=y/x.)
Passo 3
Passar para a forma de derivada: da forma diferencial
Portanto a família geral de curvas integrais (implícita) é
y^{2}-2xy-x^{2}=C,
onde C é constante arbitrária real.
Agora tratar os casos que foram excluídos ao dividir por xy e ao dividir pelo denominador na separação:
Se x=0 ou y=0 temos M= x y(y+x)=0 e N=x y(x-y)=0 simultaneamente, então a forma diferencial é nula sobre as linhas x=0 e y=0. Essas linhas são soluções singulares do problema (a equação é satisfeita identicamente sobre elas). Logo as retas x=0 e y=0 também são curvas integrais (são soluções singulares que não aparecem como uma única escolha de C na família geral).
As retas y=(1\pm\sqrt{2})x correspondem ao caso C=0 da família geral, pois se y/x é uma das raízes da quadrática v^{2}-2v-1=0 então y^{2}-2xy-x^{2}=0. Assim essas duas retas fazem parte da família geral.
Resposta
y^{2}-2xy-x^{2}=C, com C\in\mathbb{R}.
As retas singulares x=0 e y=0 também são curvas integrais (casos singulares).