Calculamos rapidamente que det(A)neq0 e det(B)neq0, logo det(A^5B^T)neq0. Isso significa que A^5B^T é invertível.
Passo 3
Como A^5B^T é invertível, o sistema homogêneo
A^5B^T x = 0
só admite a solução trivial
x = 0
Passo 4
Para o segundo sistema, note que o escalar 2 não afeta o posto, e B é invertível, de modo que
rank(2,C^T B) =rank(C^T) =rank(C)
Basta ver que C é singular (por exemplo, a linha 4 de C é o dobro da linha 1), logo
rank(C)<4
Assim 2,C^T B não é invertível, e o sistema
2,C^T B,x = b
não pode ter solução única.
Resposta
O sistema A^5B^T x=0 tem única solução x=0.
O sistema 2,C^T B,x=b não é invertível, logo não tem solução única; dependendo de b ele pode não ter solução ou, se consistente, ter infinitas soluções.