Informações úteis imediatas extraídas das matrizes:
A tem dimensão 3\times2 (3 linhas, 2 colunas).
B tem dimensão 2\times3 (2 linhas, 3 colunas).
Logo AB tem dimensão 3\times3 e \det(AB) está bem definido.
E BA tem dimensão 2\times2 e \det(BA) também está bem definido.]
Passo 2
Vamos calcular BA primeiro (é menor, 2\times2). Multiplicação linha por coluna: as linhas de B são \;(1,0,1) e \;(0,1,1),
e as colunas de A são \;c_1=(2,1,0)^T e \;c_2=(1,0,1)^T.
Então cada entrada de BA é produto escalar linha-de-B com coluna-de-A@.
Lembrete rápido sobre determinante de 2\times2: para \begin{pmatrix}a&b\\[2pt]c&d\end{pmatrix} vale \det=\;ad-bc.
Aplicando ao BA que encontramos:
\det(BA)=2\cdot1 - 2\cdot1 = 2-2 = 0.
Logo \det(BA)=0.]
Passo 4
Agora calculamos AB (3\times2 vezes 2\times3 dá 3\times3). Faço produto linha por coluna: as linhas de A são \;r_1=(2,1), \;r_2=(1,0), \;r_3=(0,1),
e as colunas de B são \;d_1=(1,0)^T, \;d_2=(0,1)^T, \;d_3=(1,1)^T.
Intuição que ajuda para provas rápidas: AB é 3\times3 mas foi obtida multiplicando A (que tem só 2 colunas) por B; portanto as colunas de AB são combinações lineares das duas colunas de A. Logo as três colunas de AB estão num espaço gerado por apenas duas vetores, ou seja, são linearmente dependentes — daí \det(AB)=0. Esse raciocínio também explica porque \det(BA)=0 foi obtido: as não-nulas das propriedades espectrais levam a pelo menos um autovalor zero quando dimensões não coincidem, mas aqui a verificação direta por cálculo foi rápida e clara.