O enunciado pede para resolver o sistema homogêneo
l(2,A^-1D^3B^Tr)x=0
O conteúdo é Álgebra Linear, especificamente fatoração de matrizes invertíveis e solução de sistemas homogêneos. Vamos precisar usar que o produto de matrizes invertíveis é invertível e, portanto, a única solução do sistema homogêneo é a trivial.