Deseja-se calcular o valor de
no SPF
.
Sendo
e
os respectivos representantes de
e
em
, qual destas estratégias seria preferível para calcular esse valor?
Ousar
com precisão precisão dupla.
Ousar
com precisão simples.
Ousar
com precisão dupla.
Ousar
com precisão precisão simples.
Ousar
com precisão simples.
O valor correto da expressão em
é
Sendo
Ousar
Ousar
Ousar
Ousar
Ousar
O valor correto da expressão em
Passo 1
O enunciado pede
em ponto-flutuante decimal com mantissa de 10 dígitos. Chamamos de
e
os representantes em
de
e
. Como
, a subtração direta sofre de cancelamento catastrófico. Vamos buscar uma fórmula algébrica que evite essa perda de dígitos.
Passo 2
Usamos a fatoração
Como
, segue
Passo 3
Entre as opções dadas, a que utiliza
com precisão simples é exatamente essa fórmula, evitando cancelamento.
Passo 4
Agora, approximamos
em aritmética de 10 dígitos e igual para
. Numericamente,
e
, de modo que o denominador
fica próximo de
. Logo
Em
normalizado, o resultado é
.
Resposta
A estratégia preferível é usar
com precisão simples.
O valor em é
O valor em