e pede que calculemos as derivadas (interpreto aqui que o objetivo principal é isolar e obter uma expressão para \dfrac{d^{3}y}{dx^{3}}). Informações relevantes fornecidas:
A função y aparece no lado esquerdo e também aparece, multiplicada por \operatorname{arctg}(2x), a sua terceira derivada \dfrac{d^{3}y}{dx^{3}}.
Temos as funções conhecidas \operatorname{sen}\!\left(x^{2}\right) e \operatorname{arctg}(2x) (isto é, \sin(x^2) e \arctan(2x)).
Para manipular algebricamente (dividir por \operatorname{arctg}(2x)) é necessário que \operatorname{arctg}(2x)\neq 0. Note que \operatorname{arctg}(2x)=0 ocorre em x=0.
Passo 2
Vamos isolar \dfrac{d^{3}y}{dx^{3}} por manipulação algébrica básica. Primeiro subtraímos \operatorname{sen}\!\left(x^{2}\right) de ambos os lados:
Isto foi só uma aplicação da propriedade de igualdade: se A=B+C então A-C=B.
Passo 3
Agora dividimos ambos os lados por \operatorname{arctg}(2x) para obter explicitamente a terceira derivada. Ao fazer isso devemos lembrar a condição de divisão: só podemos dividir quando o divisor for diferente de zero. Assim, para x tal que \operatorname{arctg}(2x)\neq 0 (ou seja, x\neq 0), temos
Aqui usamos a regra algébrica simples: se M=N\cdot P e P\neq 0 então N=M/P.
Passo 4
Comentário sobre a situação em x=0. Em x=0 temos \operatorname{arctg}(2\cdot 0)=\operatorname{arctg}(0)=0. Substituindo x=0 na equação original obtemos
Isso significa que a fórmula obtida no passo anterior não fornece \dfrac{d^{3}y}{dx^{3}} em x=0 porque dividimos por zero. Para saber o valor de \dfrac{d^{3}y}{dx^{3}} em x=0 seria necessário mais informação (por exemplo condições iniciais adicionais, ou exigir que a razão tenha limite finito quando x\to 0 e usar continuidade). Em resumo: a expressão do passo anterior vale para todos os x com \operatorname{arctg}(2x)\neq 0; em x=0 a equação original apenas impõe y(0)=0.
Passo 5
Breve recapitulando a ideia matemática usada (didática rápida):
Fizemos manipulação algébrica de uma equação que envolve y e sua derivada de terceira ordem.
Não aplicamos derivação aqui porque a equação já relacionava y e \dfrac{d^{3}y}{dx^{3}} diretamente; portanto bastou isolar a incógnita \dfrac{d^{3}y}{dx^{3}}.
Atenção sempre ao domínio das operações (divisão por funções que podem ser zero). Quando o divisor pode ser zero, trate o ponto separadamente.