Informações relevantes dadas: z,w\in\mathbb{C}. Nada mais foi fornecido; a prova deve usar propriedades básicas de conjugação e módulo de números complexos.
Passo 2
Lembrando duas propriedades fundamentais que vou usar (e explico rapidinho):
Para qualquer complexo a vale |a|^{2}=a\overline{a}. Isso é o que significa módulo quadrado: produto do número pela sua conjugada.
A conjugação respeita produto e soma: \overline{ab}=\bar a\bar b e \overline{a+b}=\bar a+\bar b.
Vou aplicar essas propriedades para transformar os módulos quadrados em produtos mais fáceis de manipular.
Passo 3
Escrevo cada termo como produto por sua conjugada:
(z-w)(\bar z-\bar w)=z\bar z - z\bar w - w\bar z + w\bar w.
Aqui z\bar z=|z|^{2} e w\bar w=|w|^{2}. Então
|z-w|^{2}=|z|^{2} - z\bar w - w\bar z + |w|^{2}.
Passo 5
Faço a diferença termo a termo:
\begin{aligned} |1-\bar{z}w|^{2}-|z-w|^{2} &=\bigl(1 - z\bar{w} - \bar{z}w + |z|^{2}|w|^{2}\bigr) -\bigl(|z|^{2} - z\bar w - w\bar z + |w|^{2}\bigr) \\\ &=1 - z\bar w - \bar z w + |z|^{2}|w|^{2} - |z|^{2} + z\bar w + w\bar z - |w|^{2}. \end{aligned}
Note que os termos - z\bar w e + z\bar w cancelam, e também -\bar z w e + w\bar z são iguais (já que w\bar z=\overline{\bar w z}=\bar z w ), então eles também cancelam. Ficamos com
Agora a dedução da desigualdade. Se |z|<1 e |w|<1, então \,1-|z|^{2}>0 e \,1-|w|^{2}>0. Assim o produto (1-|z|^{2})(1-|w|^{2}) é estritamente positivo. Pela identidade do passo anterior segue que
|1-\bar{z} w|^{2}-|z-w|^{2}>0,
ou seja
|1-\bar{z} w|^{2}>|z-w|^{2}.
Tomando raízes quadradas (ambos os lados são não-negativos) obtemos
|1-\bar{z} w|>|z-w|.
Como o lado esquerdo é estritamente positivo, podemos dividir ambos os lados por |1-\bar{z} w| sem problema, chegando a
\left|\frac{z-w}{1-\bar{z} w}\right|<1.
Observação: a divisão é legal porque da desigualdade anterior segue |1-\bar{z} w|>0, então o denominador não é zero.
Resposta
|1-\bar{z} w|^{2}-|z-w|^{2}=(1-|z|^{2})(1-|w|^{2}) \displaystyle \left|\frac{z-w}{1-\bar{z} w}\right|<1 (quando |z|<1 e |w|<1).