Se k dígitos decimais e arredondamento são usados para a representação de máquina de
mostre que .
Passo 1
O enunciado pede para mostrar que, ao representar em máquina o número
y = 0d1d2dots dkdk+1dotstimes 10^n
com k dígitos decimais usando arredondamento, a erro relativo satisfaz
|y - fe(y)y| < 0,5 times 10^-k+1
O conteúdo é o erro de arredondamento em representação de ponto flutuante decimal.
Passo 2
Quando arredondamos y para obter fe(y), cortamos depois de k dígitos e, se dk+1>=5, incrementamos dk em uma unidade; caso contrário deixamos dk como está. Assim o erro absoluto na mantissa vale no máximo meia unidade do último dígito mantido. Em termos de potências de dez,
l|,y - fe(y)r| <= 0,5 times 10^n-k
Passo 3
Para passar ao erro relativo, precisamos de um limite inferior para lvert yrvert. Como a mantissa é 0d1d2dots com d1neq0, temos