O que é preciso usar (ideia principal, sem começar a resolver ainda): uma matriz quadrada é invertível exatamente quando o seu determinante é diferente de zero. Além disso, para uma matriz 3\times3 invertível a fórmula prática é
A^{-1}=\frac{1}{\det(A)}\operatorname{adj}(A),
onde \operatorname{adj}(A) é a matriz adjunta (a transposta da matriz dos cofatores). Vou então:
calcular \det(A); se for não nulo, calcular os cofatores de A, formar \operatorname{adj}(A) e obter A^{-1};
calcular \det(B) (ou detectar dependência linear que torne \det(B)=0) para decidir invertibilidade de B.
Passo 3
Revisão rápida do que é determinante e cofator (pequena aula):
Para uma matriz 3\times3 com elementos a_{ij}, o determinante pode ser calculado pela expansão na primeira linha: