O enunciado não pede construir P; pede apenas verificar se existe. Para isso vamos comparar invariantes de similaridade que podemos calcular explicitamente a partir das matrizes.
Passo 2
Rápida explicação didática: duas matrizes semelhantes têm, entre outras coisas, o mesmo polinômio característico e a mesma estrutura de blocos de Jordan (ou seja, mesmas multiplicidades algébricas e geométricas de cada autovalor). Portanto um procedimento prático é:
calcular o polinômio característico de cada uma e comparar;
se os polinômios forem iguais, comparar a dimensão dos espaços próprios (nullidades de A-\lambda I e B-\lambda I) para cada autovalor — isso indica o número de blocos de Jordan correspondentes.
Começo calculando o polinômio característico de A. Escrevo A-\lambda I e uso a expansão por cofatores aproveitando que a última linha tem zeros exceto a última entrada:
Conclusão intermediária: A e B têm o mesmo polinômio característico \,(\lambda+1)(\lambda-1)^3. Isso é necessário para similaridade, mas não suficiente. Precisamos comparar a estrutura de blocos de Jordan para o autovalor \lambda=1 (multiplicidade algébrica 3).
Passo 4
Explicação didática sobre multiplicidade geométrica: a multiplicidade geométrica de um autovalor \lambda é a dimensão do espaço próprio \ker(A-\lambda I). Essa dimensão é igual ao número de blocos de Jordan correspondentes a \lambda. Assim, para \lambda=1 (que tem multiplicidade algébrica 3) as possibilidades de blocos de Jordan são:
um bloco de tamanho 3 (geometric mult =1);
um bloco de tamanho 2 e um bloco de tamanho 1 (geometric mult =2);
três blocos de tamanho 1 (geometric mult =3, ou seja diagonalizável).
Para decidir, vou calcular \dim\ker(A-I) e \dim\ker(B-I).
Da segunda equação vem x_4=0\]. Substituindo em primeira e terceira obtemos \(x_1=0. Não há restrição sobre x_2 e x_3, então x_2 e x_3 são livres. Portanto
\dim\ker(A-I)=2.
Interpretação: para \lambda=1 a multiplicidade geométrica em A é 2. Com multiplicidade algébrica 3, isso corresponde ao caso de blocos de Jordan de tamanhos 2 e 1 (ou seja, partida 3=2+1).]
Dessas vem x_1=0\], \(x_2=0, x_4=0, e somente x_3 é livre. Portanto
\dim\ker(B-I)=1.
Interpretação: para \lambda=1 a multiplicidade geométrica em B é 1. Com multiplicidade algébrica 3, isso corresponde a um único bloco de Jordan de tamanho 3.]
Passo 7
Conclusão final e justificativa: as matrizes A e B têm o mesmo polinômio característico, mas a estrutura de blocos de Jordan para o autovalor \lambda=1 é diferente: A tem multiplicidade geométrica 2 (blocos de tamanhos 2 e 1), enquanto B tem multiplicidade geométrica 1 (um bloco de tamanho 3). Como o número e os tamanhos dos blocos de Jordan são invariantes de similaridade, isso impede que exista P invertível com B=P^{-1}AP. Logo as matrizes não são semelhantes.