As perguntas são:
a) encontrar \left(A^{t}\right)^{-1};
b) encontrar A.
Informações relevantes fornecidas:
A equação matricial é A\,U=V.
As matrizes U e V são triangulares superiores com todos os elementos da diagonal iguais a 1 (logo são invertíveis).
Preciso usar propriedades de inversa e transposta de matrizes para obter \left(A^{t}\right)^{-1} e A.]
Passo 2
Ideia-chave (fatos úteis que vamos usar):
Se A U = V e U é invertível, então A = V\,U^{-1}.
A propriedade das transpostas e inversas: \left(A^{t}\right)^{-1} = \left(A^{-1}\right)^{t}.
A propriedade das inversas de produto: (XY)^{-1} = Y^{-1}X^{-1}.
Não começamos ainda os cálculos numéricos, mas já sabemos que vamos precisar de U^{-1} (ou de V^{-1}) para obter A e A^{-1}.
Passo 3
Calcular U^{-1}. Vou resolver U X = I coluna a coluna (método prático e simples para matrizes triangulares).
Escrevendo X=\begin{pmatrix}x_{11}&x_{12}&x_{13}\\[4pt]x_{21}&x_{22}&x_{23}\\[4pt]x_{31}&x_{32}&x_{33}\end{pmatrix} e impondo U X = I.
Coluna 1: resolver U \begin{pmatrix}x_{11}\\[4pt]x_{21}\\[4pt]x_{31}\end{pmatrix}=\begin{pmatrix}1\\[4pt]0\\[4pt]0\end{pmatrix}.
Das equações (linha 3) vem x_{31}=0.
Linha 2: x_{21}+4x_{31}=0 \Rightarrow x_{21}=0.
Linha 1: x_{11}+2x_{21}+3x_{31}=1 \Rightarrow x_{11}=1.
Portanto primeira coluna é \begin{pmatrix}1\\[4pt]0\\[4pt]0\end{pmatrix}.
Coluna 2: resolver U \begin{pmatrix}x_{12}\\[4pt]x_{22}\\[4pt]x_{32}\end{pmatrix}=\begin{pmatrix}0\\[4pt]1\\[4pt]0\end{pmatrix}.
Linha 3: x_{32}=0.
Linha 2: x_{22}+4x_{32}=1 \Rightarrow x_{22}=1.
Linha 1: x_{12}+2x_{22}+3x_{32}=0 \Rightarrow x_{12}+2=0 \Rightarrow x_{12}=-2.
Portanto segunda coluna é \begin{pmatrix}-2\\[4pt]1\\[4pt]0\end{pmatrix}.
Coluna 3: resolver U \begin{pmatrix}x_{13}\\[4pt]x_{23}\\[4pt]x_{33}\end{pmatrix}=\begin{pmatrix}0\\[4pt]0\\[4pt]1\end{pmatrix}.
Linha 3: x_{33}=1.
Linha 2: x_{23}+4x_{33}=0 \Rightarrow x_{23}=-4.
Linha 1: x_{13}+2x_{23}+3x_{33}=0 \Rightarrow x_{13}+2(-4)+3=0 \Rightarrow x_{13}=5.
Portanto terceira coluna é \begin{pmatrix}5\\[4pt]-4\\[4pt]1\end{pmatrix}.