Informações relevantes fornecidas: \;1) A matriz é triangular superior (todos os elementos abaixo da diagonal principal são zero). \;2) Os elementos da diagonal principal são, na ordem, 1, a, b, c, d.
A tarefa é encontrar o valor numérico/algebraico de \det M.
Passo 2
Vou recordar uma ferramenta que usamos frequentemente: a expansão de Laplace (expansão por cofatores) ao longo da primeira coluna. Para uma matriz n\times n com entradas m_{ij} vale a fórmula
\det M = \sum_{i=1}^{n} (-1)^{i+1} m_{i1}\,\det\big(M_{i1}\big),
onde M_{i1} é a matriz obtida de M ao eliminar a linha i e a coluna 1. Aqui cada termo da soma é o produto da entrada m_{i1} pela determinante do menor correspondente, multiplicado pelo sinal (-1)^{i+1}. Isso é uma definição/identidade básica do determinante que nos permite aproveitar zeros numa coluna.
Passo 3
Observe a primeira coluna de M. Pelos dados da matriz, \;m_{11}=1 e m_{21}=m_{31}=m_{41}=m_{51}=0. Como só o primeiro elemento da coluna é não nulo, na expansão de Laplace ao longo da primeira coluna só o termo i=1 contribui. Portanto
\det M = m_{11}\,\det\big(M_{11}\big).
Substituindo m_{11}=1 e escrevendo explicitamente o menor M_{11} (a submatriz 4\times4 que fica ao apagar a primeira linha e a primeira coluna), temos
\det M = 1\cdot \det\begin{pmatrix} a & 1 & 3 & 1 \\\\ 0 & b & 2 & 3 \\\\ 0 & 0 & c & 2 \\\\ 0 & 0 & 0 & d \end{pmatrix}.
Passo 4
Agora explico por que esse procedimento pode ser repetido e leva ao produto dos elementos da diagonal principal. A ideia é por indução sobre o tamanho n da matriz triangular superior.
Base n=1: uma matriz 1\times1(m_{11}) tem \det(m_{11})=m_{11}, ou seja, o produto dos elementos da diagonal (trivial).
Passo indutivo: suponha que toda matriz triangular superior de ordem n-1 tem determinante igual ao produto dos seus elementos da diagonal principal. Considere uma matriz triangular superior n\times n. A primeira coluna tem zeros abaixo de m_{11}, então pela expansão de Laplace ao longo da primeira coluna só temos o termo m_{11}\det(M_{11}). Mas M_{11} é uma matriz triangular superior de ordem n-1, então, pela hipótese indutiva, \det(M_{11}) é o produto dos elementos da diagonal de M_{11}. Multiplicando por m_{11} obtemos que \det M é o produto dos elementos da diagonal de M. Isso completa a prova por indução.
Resumindo didaticamente: para matriz triangular superior, a expansão por cofatores ao longo da primeira coluna (ou de qualquer coluna/linha que tenha muitos zeros) reduz recursivamente o cálculo à multiplicação dos elementos da diagonal.
Passo 5
Aplicando o resultado do passo anterior à nossa matriz M (que é triangular superior), concluímos que o determinante é o produto dos elementos da diagonal principal. No caso, esses elementos são 1, a, b, c, d, então o determinante é
\det M = 1\cdot a\cdot b\cdot c\cdot d.
Passo 6
Um exemplo rápido para fixar: se tivéssemos a matriz triangular superior 3\times3
então \det = 2\cdot 3\cdot 4 = 24. O mesmo princípio se aplicou acima, só com mais passos recursivos.
Passo 7
Dica para a prova: ao ver uma matriz triangular (superior ou inferior), memorizem que o determinante é o produto das entradas da diagonal principal — isso salva muito tempo e evita cálculos longos com cofatores. Você já tem a resposta pronta quando reconhecer a triangularidade.