O enunciado apresenta um sistema homogêneo de três equações lineares em (x,y,z) cujos coeficientes dependem dos parâmetros k1,k2,k3. O objetivo é descobrir para quais valores de k1,k2,k3 a única solução é a trivial (x,y,z)=(0,0,0). Para isso vamos calcular o determinante da matriz de coeficientes e exigir que ele seja diferente de zero, pois num sistema homogêneo a existência só da solução trivial ocorre exatamente quando a matriz é invertível, ou seja, quando detneq0.
O sistema admite apenas a solução trivial se, e somente se,
(k1+k2)(k1-k3)(k2-k3)+4,k1k2k3neq0
Cálculo - Gelson Iezzi, Samuel Hazzan - Fundamentos de Matemática Elementar - Vol 4: Sequências, matrizes, determiantes e sistema - 8ª Edição - Capítulo 6.Exercícios - Ex. 450