O enunciado dá que h(x) é uma função de x e que h(x) é diferenciável em relação a x. Pede-se para mostrar a derivada de h(x)^{\cos(x)}, ou seja, mostrar que
Informações relevantes que temos: \,h(x) é diferenciável (logo \frac{d}{dx}h(x) existe). Para usar \ln(h(x)) no processo, vamos assumir implicitamente que estamos trabalhando em um intervalo onde h(x)>0 (isso é necessário para \ln(h(x)) estar definido). A partir daqui vamos transformar e derivar a expressão passo a passo.
Passo 2
Primeiro, vamos facilitar a diferenciação usando logaritmos (técnica chamada diferenciação logarítmica). Defina
y = h(x)^{\cos(x)}.
A ideia é aplicar o logaritmo natural em ambos os lados para transformar a potência com base e expoente variáveis em um produto, pois produto é mais fácil de derivar.
Passo 3
Aplicando \ln em ambos os lados obtemos
\ln(y) = \ln\big(h(x)^{\cos(x)}\big).
Usando a propriedade dos logaritmos \ln(a^b)=b\ln(a), temos
\ln(y) = \cos(x)\,\ln\big(h(x)\big).
Aqui cada símbolo significa: \ln(y) é o logaritmo natural de y; \cos(x) é o cosseno de x; e \ln(h(x)) é o logaritmo natural de h(x).
Passo 4
Agora diferenciamos ambos os lados em relação a x. No lado esquerdo usamos a regra da cadeia: a derivada de \ln(y) em relação a x é \dfrac{1}{y}\dfrac{dy}{dx}. Portanto o lado esquerdo vira
Agora usamos que \dfrac{d}{dx}\cos(x)=-\operatorname{sen}(x) e que, por regra da cadeia, \dfrac{d}{dx}\ln(h(x))=\dfrac{1}{h(x)}\cdot\dfrac{d}{dx}h(x). Substituindo,
Essa é a fórmula pedida. (Como verificação rápida: se h(x)=e^{x}, então \ln(h(x))=x e \dfrac{d}{dx}h(x)=e^{x}=h(x), e a expressão reduz à derivada para e^{x\cos x} conforme esperado.)