Rangos de cálculo, cantidad de
dígitos y precisión
El rango del cálculo, la cantidad de dígitos usados internamente para el
cálculo y la precisión del cálculo dependen del tipo de cálculo que realice.
Rango del cálculo y precisión
Rangos de cálculo
Cantidad de dígitos usados
internamente en el cálculo
Precisión
Rangos de entrada de cálculo de funciones y
precisión
Funciones
x
sen
x
cos
x
tan
x
–1
sen
x
–1
cos
x
–1
tan
x
senh
x
cosh
x
–1
senh
x
–1
cosh
x
tanh
x
–1
tanh
x
x
log
/ln
x
10
x
e
|
|
x
DEG
0
|
|
x
RAD
0
|
|
x
GRA
0
|
|
x
DEG
0
|
|
x
RAD
0
|
|
x
GRA
0
El mismo que sen
DEG
|
| = (2
x
n
El mismo que sen
RAD
|
| = (2
x
n
El mismo que sen
GRA
|
| = (2
x
n
|
|
x
0
1
|
|
9,999999999 × 10
x
0
|
|
x
0
230,2585092
|
|
4,999999999 × 10
x
0
4,999999999 × 10
x
1
|
|
9,999999999 × 10
x
0
|
|
9,999999999 × 10
x
0
9,999999999 × 10
x
0
–9,999999999 × 10
–9,999999999 × 10
± 1 × 10
a ± 9,999999999 × 10
–99
15 dígitos
En general, ± 1 en el 10mo dígito para
un cálculo individual. La precisión con
visualización exponencial es ± 1 sobre
el dígito menos significativo. En el caso
de cálculos consecutivos los errores se
propagan acumulativamente.
Rango de entrada
9 × 10
9
157079632,7
1 × 10
10
9 × 10
9
157079632,7
1 × 10
10
x
, excepto cuando
–1) × 90.
x
, excepto cuando
–1) × π/2.
x
, excepto cuando
–1) × 100.
99
99
99
99
–1
99
x
99
99,99999999
x
99
230,2585092
S-54
99
o 0