A expressão depende de duas variáveis: x (parâmetro) e h (variável que tende a zero).
A expressão contém \dfrac{1}{x}, portanto para qualquer análise devemos exigir x\neq 0 (caso contrário a expressão não está definida para nenhum h).
O que se pede é o comportamento quando h\to 0; isso pode depender do valor de x. Vou tratar os casos relevantes e calcular o limite (ou mostrar que não existe).
Passo 2
Primeiro passo algébrico: colocar a diferença de frações no numerador sobre um denominador comum para simplificar. Começo escrevendo o numerador como uma única fração:
x-(x+h)^2 = x - \bigl(x^2+2xh+h^2\bigr) = -x^2 + x - 2xh - h^2.
Passo 4
Reescrevo o numerador agrupando o termo que não envolve h:
x-(x+h)^2 = -x(x-1) - 2x h - h^2.
Assim a expressão original fica
\frac{x-(x+h)^2}{x(x+h)^2\,h} = \frac{-x(x-1) - 2x h - h^2}{x(x+h)^2\,h}.
Passo 5
Análise do comportamento quando h\to 0. Observe o termo constante (em h) no numerador:
-x(x-1).
Se x\neq 0 e x\neq 1, esse termo constante é diferente de zero, logo quando h\to 0 o numerador tende para uma constante não nula enquanto o denominador tem um fator h. Assim o quociente comporta-se como uma constante dividida por h quando h\to 0, o que diverge. Mais precisamente, para x\neq 0,1 a expressão tende para infinito em módulo e os sinais das duas aproximações laterais (de h\to 0^+ e h\to 0^-) são opostos, portanto o limite bilateral não existe (diverge).
Para ver isso com uma aproximação simples, note que quando h é muito pequeno
Caso x=0. A expressão original contém \dfrac{1}{x}, então para x=0 a expressão sequer está definida (não faz sentido falar do limite em h\to 0 porque a função não existe para nenhum h quando x=0). Portanto x=0 é excluído do domínio.
Resposta
Para x=1: -2
Para x=0: a expressão não está definida (impossível calcular o limite)
Para x\neq 0,1: o limite não existe (diverge; a expressão tende a infinito em módulo, com sinais opostos nas aproximações laterais)