Explicação do procedimento (bem devagar, tipo aula): multiplicar uma matriz A pela coluna de incógnitas \mathbf{v} significa tomar o produto escalar (dot product) de cada linha de A com a coluna \mathbf{v}.
Se a primeira linha de A for (a_{11},a_{12},a_{13}) e a coluna for (x,y,z)^T, então o primeiro componente do produto é
a_{11}x + a_{12}y + a_{13}z.
Aqui a_{ij} é o elemento da linha i e coluna j da matriz A; x,y,z são as incógnitas.
Passo 3
Aplicando isso à primeira linha da matriz \begin{pmatrix}3 & 2 & 1\end{pmatrix}, o produto escalar com \begin{pmatrix}x\y\z\end{pmatrix} é
3x + 2y + 1z.
Pelo enunciado esse valor deve ser igual ao primeiro elemento do vetor do lado direito, que é 11. Assim obtemos a primeira equação
3x + 2y + z = 11.
Obs.: escrevi 1z como z porque multiplicar por 1 não muda o número.
Passo 4
Agora a segunda linha da matriz é \begin{pmatrix}2 & 3 & 1\end{pmatrix}. O produto escalar com \begin{pmatrix}x\y\z\end{pmatrix} dá
2x + 3y + 1z.
Esse deve ser igual ao segundo componente do vetor do lado direito, que é 12. Logo a segunda equação é
2x + 3y + z = 12.
Passo 5
A terceira linha da matriz é \begin{pmatrix}1 & 1 & 2\end{pmatrix}. O produto escalar com \begin{pmatrix}x\y\z\end{pmatrix} é
1x + 1y + 2z.
Esse resultado deve ser igual ao terceiro elemento do vetor do lado direito, que é 10. Assim a terceira equação é
x + y + 2z = 10.
Passo 6
As três equações obtidas — uma por cada linha da matriz — são exatamente o sistema linear associado à equação matricial dada. Você já tem cada equação isolada (obtidas nos passos anteriores) e agora pode, se quiser, resolver esse sistema por eliminação, substituição ou usando matrizes.