Observações úteis sobre dimensões (apenas listando dados, sem resolver ainda):
\mathbf{A} é \,(4\times 3).
\mathbf{B} é \,(3\times 4).
\mathbf{D} é \,(4\times 4), então \mathbf{D}^{T} também é \,(4\times 4).
O produto \mathbf{B}\mathbf{D}^{T} terá dimensão (3\times 4).
Então \mathbf{A}\left(\mathbf{B}\mathbf{D}^{T}\right) é permitido e o resultado terá dimensão (4\times 4).
Passo 2
Explicando o que é transpor e como vamos proceder:
A transposta \mathbf{D}^{T} é obtida trocando linhas por colunas: o elemento que estava em posição (i,j) em \mathbf{D} vai para (j,i) em \mathbf{D}^{T}.
A multiplicação de matrizes obedece: se \mathbf{X} é (m\times p) e \mathbf{Y} é (p\times n), então \mathbf{X}\mathbf{Y} é (m\times n) e cada entrada (i,j) é
ou seja, a soma dos produtos dos elementos da i-ésima linha de \mathbf{X} pelos elementos da j-ésima coluna de \mathbf{Y}. Vou usar isso passo a passo.
Primeiro calculemos \mathbf{D}^{T} aplicando a regra de transposta (peguei os elementos de \mathbf{D} do enunciado):
Agora calculamos \mathbf{A}\left(\mathbf{B}\mathbf{D}^{T}\right). Denotando \mathbf{M}=\mathbf{B}\mathbf{D}^{T} (matriz calculada no passo anterior), temos que \mathbf{A} é (4\times3) e \mathbf{M} é (3\times4), logo o produto será uma matriz (4\times4). A regra é a mesma: para \mathbf{N}=\mathbf{A}\mathbf{M},
N_{ij}=\sum_{k=1}^{3} A_{ik}\,M_{kj}.
Vou calcular linha a linha. As colunas de \mathbf{M} (peguei da matriz acima) são: