O enunciado nos dá a equação diferencial ordinária de segunda ordem
\left(1-2x-x^{2}\right)y''+2(1+x)y'-2y=0
e informa uma solução conhecida \;y_{1}=x+1.
O que se pede (implícito) é obter uma segunda solução linearmente independente e, com isso, a solução geral da equação linear homogênea.
Informações relevantes fornecidas:
Coeficiente da segunda derivada: \;A(x)=1-2x-x^{2}.
Coeficiente da primeira derivada: \;B(x)=2(1+x).
Coeficiente do termo y: \;C(x)=-2.
Solução conhecida: \;y_{1}=x+1.
Passo 2
Escolha do método (explicação didática e motivação):
Quando temos uma equação linear homogênea de segunda ordem e já conhecemos uma solução \;y_{1}, um método padrão e eficiente é a redução de ordem: procuramos uma segunda solução da forma
y=v(x)\,y_{1}(x),
onde v(x) é uma função a determinar. A ideia é transformar a equação de segunda ordem numa equação de primeira ordem para v', porque a presença de \;y_{1} faz com que muitos termos se cancelem — isso facilita muito a conta na prova.
Antes de aplicar a técnica, explico a lógica algebraica que vamos usar: substitui-se y=v y_{1} na equação e usa-se que \;y_{1} satisfaz a equação original — daí sobram apenas termos envolvendo v' e v'' que levam a uma equação mais simples para v'.
Passo 3
Desenvolvimento geral da substituição (mostrando todos os passos).
Colocando
onde C_1 é outra constante de integração. Aqui é importante observar uma liberdade: a parte constante C_1 ao multiplicar y_{1} gera justamente um múltiplo de y_{1} na solução final, então esse termo não gera uma nova solução linearmente independente. Por isso podemos escolher C_1=0 (ou absorvê-lo em constante multiplicativa de y_{1}). Também podemos escolher K=1 para obter uma forma simples da segunda solução (qualquer K\neq 0 só escala a solução independente).
Tomando K=1 e C_1=0 para simplicidade,
v = -\frac{2}{x+1}-x.
Passo 7
Construir a segunda solução e a solução geral.
A segunda solução é
y_{2}=v\,y_{1}=\Big(-\frac{2}{x+1}-x\Big)(x+1).
Multiplicando e simplificando:
y_{2} = -2 - x(x+1) = -(x^{2}+x+2).
Uma constante multiplicativa não interessa para independência, então podemos escolher a versão positiva para ficar mais agradável:
y_{2}=x^{2}+x+2.
Verificação rápida de independência: y_{2} não é múltiplo escalar de y_{1}, e o wronskiano
que não é identicamente zero, então as soluções são linearmente independentes (exceto possivelmente em pontos isolados onde o wronskiano zera, que correspondem a singularidades dos coeficientes).