Para uma matriz 2\times2 a fórmula do determinante é rápida e útil como referência:
\det\begin{pmatrix}a & b\\\ c & d\end{pmatrix}=ad-bc.
Para 3\times3 posso usar desenvolvimento por cofatores (expansão por linha/coluna) ou aplicar operações elementares de linha que facilitem o cálculo. Importante: a operação de substituir uma linha pela soma desta com um múltiplo de outra linha (por exemplo R_1\leftarrow R_1 - R_2) não altera o determinante. Vou usar isso para simplificar A. Para B uso expansão por linha.
Passo 3
Cálculo do determinante de A (passo a passo e explicando por que):
Faço a operação de linha R_1\leftarrow R_1-R_2. Isso NÃO altera o determinante.
Como \det(B)=\lambda(\lambda^2-2), temos \det(B)=0 exatamente quando \lambda=0 ou \lambda^2=2, isto é \lambda=\pm\sqrt{2}.
Conclusão: B é invertível para todos os \lambda exceto \lambda=0, \lambda=\sqrt{2} e \lambda=-\sqrt{2}.
Resposta
A é invertível para todos os \lambda tais que \lambda\neq 0 e \lambda\neq 1. B é invertível para todos os \lambda tais que \lambda\neq 0 e \lambda\neq \pm\sqrt{2}.