Explicação rápida dessa igualdade: elevando n^{b/a} à potência a obtemos n^{b}, então colocar n^{b/a} no denominador dentro do parêntese e depois elevar tudo a a devolve a expressão original.
Passo 3
Agora mostro que o fator dentro do parêntese tende a zero quando n\to\infty. Defina
\delta=\frac{b}{a}>0.
Queremos provar que
\lim_{n\to\infty}\frac{\ln n}{n^{\delta}}=0.
Como n é inteiro, é mais simples passar para a variável contínua x e tratar o limite
\lim_{x\to\infty}\frac{\ln x}{x^{\delta}}.
Ambas as funções do numerador e denominador tendem a +\infty, então podemos aplicar o Teorema de L’Hôpital (em linguagem informal: quando temos uma forma \infty/\infty, o limite da razão é o mesmo que o limite da razão das derivadas, se este existir).
Derivando numerador e denominador em x:
derivada de \ln x é 1/x;
derivada de x^{\delta} é \delta x^{\delta-1}.
Intuição final e ânimo: a ideia por trás do resultado é que potências de n (mesmo com expoente pequeno) crescem muito mais rápido que potências do logaritmo. Ou seja, n^{b} domina (\ln n)^{a} quando n fica muito grande. Você já tem a ferramenta (L’Hôpital) e o truque da reescrita \left(\frac{\ln n}{n^{b/a}}\right)^{a} — com isso dá pra ganhar tempo na prova. Força aí, tá indo bem!