Vou descrever claramente o que o enunciado dá e o que pede.
O enunciado dá o sistema de equações logarítmicas, onde a notação é \log (vamos usar o logaritmo natural — isto não altera a solução porque qualquer base fixa daria o mesmo conjunto de soluções positivas):
\left\{\begin{array}{l} x\log x + y\log y + z\log z = 0,\\[4pt] \dfrac{\log x}{x} + \dfrac{\log y}{y} + \dfrac{\log z}{z} = 0. \end{array}\right.
Pergunta: resolver o sistema no conjunto dos números reais. Observação necessária: para \log x estar definido, cada variável deve satisfazer x>0, y>0, z>0. Portanto procuramos soluções com x,y,z>0.
Informações relevantes fornecidas:
Duas somas simétricas envolvendo termos do tipo x\log x e \dfrac{\log x}{x}.
Domínio: x,y,z>0.]
Passo 2
Fazer uma mudança de variáveis para simplificar a forma das equações.
Defina
u=\log x,\qquad v=\log y,\qquad w=\log z,
onde aqui \log é o logaritmo natural. Então x=e^{u}, y=e^{v}, z=e^{w} e as equações do sistema ficam (substituindo):
\left\{\begin{array}{l} u e^{u} + v e^{v} + w e^{w} = 0,\\[6pt] u e^{-u} + v e^{-v} + w e^{-w} = 0. \end{array}\right.
Expliquei: cada termo x\log x virou e^{u}\cdot u = u e^{u}; cada termo \dfrac{\log x}{x} virou u/e^{u}=u e^{-u}.]
Passo 3
Subtrair a segunda equação da primeira para obter uma soma mais simples.
Subtraindo membro a membro:
\bigl(u e^{u} + v e^{v} + w e^{w}\bigr) - \bigl(u e^{-u} + v e^{-v} + w e^{-w}\bigr)=0-0=0.
Usando e^{t}-e^{-t}=2\operatorname{sinh} t, isso fica
2\bigl(u\operatorname{sinh} u + v\operatorname{sinh} v + w\operatorname{sinh} w\bigr)=0,
portanto
u\operatorname{sinh} u + v\operatorname{sinh} v + w\operatorname{sinh} w = 0.
Passo 4
Estudar o sinal de cada termo t\mapsto t\operatorname{sinh} t.
Vamos analisar a função r(t)=t\operatorname{sinh} t para t\in\mathbb{R}.
A função \operatorname{sinh} t é ímpar: \operatorname{sinh}(-t)=-\operatorname{sinh} t.
Logo r(-t)=(-t)\operatorname{sinh}(-t)=(-t)(-\operatorname{sinh} t)=t\operatorname{sinh} t=r(t). Ou seja, r é uma função par.
Além disso, para t>0 tem-se \operatorname{sinh} t>0, então t\operatorname{sinh} t>0. Para t<0, \operatorname{sinh} t<0 e t<0, então o produto também é positivo. Em t=0, t\operatorname{sinh} t=0.
Portanto, para todo t\in\mathbb{R} vale
t\operatorname{sinh} t \ge 0,
e a igualdade ocorre somente em t=0.
Passo 5
Concluir que cada u,v,w deve ser zero.
Do Passo 3 temos
u\operatorname{sinh} u + v\operatorname{sinh} v + w\operatorname{sinh} w = 0.
Pelo Passo 4 cada parcela u\operatorname{sinh} u, v\operatorname{sinh} v, w\operatorname{sinh} w é não negativa. A soma de três termos não negativos é zero somente se cada termo for zero. Portanto
u\operatorname{sinh} u = 0,\qquad v\operatorname{sinh} v = 0,\qquad w\operatorname{sinh} w = 0.
Pela observação do Passo 4, isso implica u=0, v=0 e w=0.
Passo 6
Voltar às variáveis originais e verificar a solução.
Como u=\log x=0 então x=e^{0}=1. Analogamente y=1 e z=1.
Verificação rápida: para x=y=z=1 tem-se \log 1=0, então ambas as equações do sistema ficam 0+0+0=0. Portanto (1,1,1) satisfaz o sistema.