A função é composta (há funções dentro de funções): primeiro x\mapsto x^{3}+1, depois \operatorname{arccos}(\cdot), e por fim \ln(\cdot).
O que se pede é a derivada de y em relação a x: \dfrac{dy}{dx}.
Passo 2
Conceito-chave: regra da cadeia. Vou explicar devagar e com carinho.
Se tivermos uma composição y=f(g(x)), a regra da cadeia diz que
\frac{dy}{dx}=f'\big(g(x)\big)\cdot g'(x).
O que isso significa: primeiro derivamos a função externa f em relação à sua entrada (chame de t), obtemos f'(t), e depois substituímos t=g(x). Em seguida multiplicamos pelo derivado da função interna g'(x). Intuitivamente, as “taxas” vão se multiplicando.
Exemplo simples e rápido: para y=\ln(x^2) usamos a regra da cadeia com f(t)=\ln t e g(x)=x^2. Temos f'(t)=1/t e g'(x)=2x. Logo
\frac{dy}{dx}=\frac{1}{x^2}\cdot 2x=\frac{2}{x}.
Passo 3
Extensão para três camadas: se y=f(g(h(x))), então
Explicando: a derivada de \operatorname{arccos} s é negativa porque \operatorname{arccos} é decrescente; o denominador \sqrt{1-s^2} vem da relação trigonométrica básica quando se deriva funções inversas de cosseno.
Função interna: h(x)=x^{3}+1. Usando a regra do poder e que a derivada de constante é zero,
h'(x)=3x^{2}.
Passo 5
Agora aplicamos a regra da cadeia para as três camadas:
Este é o resultado simplificado. Observe que o denominador contém \operatorname{arccos}(\cdot) e a raiz quadrada; por isso a derivada só existe onde essas quantidades são bem definidas (ou seja, onde \operatorname{arccos}(x^{3}+1) está definida e positiva para entrar no \ln, e onde a raiz não é zero no denominador).
Dica encorajadora: você fez certinho ao identificar as camadas; a parte mecânica é sempre aplicar a regra da cadeia camada a camada e multiplicar as derivadas internas.