Regra importante (sem resolver ainda): uma matriz quadrada tem inversa se, e somente se, seu determinante for diferente de zero. Portanto o primeiro cálculo é o determinante de O. Vou calcular \det(O) expandindo pela primeira linha (método direto e fácil para 3\times3).
Conclusão do teste de existência: \det(O)=1\neq0. Logo O é invertível e a inversa existe. Uma fórmula direta é
O^{-1}=\frac{1}{\det(O)}\operatorname{adj}(O).
Como \det(O)=1, teremos simplesmente O^{-1}=\operatorname{adj}(O). Vou então calcular a matriz adjunta (adjugada), que é a transposta da matriz dos cofatores.
Lembrando: o cofator C_{ij} é C_{ij}=(-1)^{i+j}M_{ij}, onde M_{ij} é o determinante da submatriz obtida ao remover a i-ésima linha e j-ésima coluna.
Verificação rápida (uma checagem didática): multiplicando O por O^{-1} obtém-se a identidade. Por exemplo, produto da primeira linha de O com a primeira coluna de O^{-1}:
(1)(5)+(-2)(-4)+(-4)(3)=5+8-12=1,
e produtos mistos dão zero; o produto completo é \mathrm{I}_3. Isso confirma que a matriz encontrada é realmente a inversa.