k Gamas de cálculo, número de dígitos
y precisión
La gama de cálculo, número de dígitos usados para el
cálculo interno, y la precisión del cálculo dependen en el
tipo de cálculo que está realizando.
Gama de cálculo y precisión
Gama de cálculo
Número de dígitos
para el cálculo interno
Precisión
Precisión y gamas de ingreso en el cálculo con
funciones
Funciones
x
DEG 0
sen
RAD 0
GRA 0
x
DEG 0
cos
RAD 0
GRA 0
x
DEG Similar a sen
tan
RAD Similar a sen
GRA Similar a sen
–1
x
sen
0
–1
x
cos
–1
x
tan
0
±1 × 10
10
99
15 dígitos
En general, ±1 en el 10mo.
dígito para un cálculo simple.
Precisión para la presentación
exponencial es ±1 en el dígito
menos significante. Los errores
son acumulativos en el caso de
cálculos consecutivos.
x
9 10
x
157079632,7
x
1 10
x
9 10
x
157079632,7
x
1 10
n
(2
–1) 90.
–1) π/2.
n
(2
n
(2
–1) 100.
x
1
x
9,999999999 10
S-142
a ±9,999999999 ×
–99
o 0
Gama de ingreso
9
10
9
10
x
, excepto cuando
x
, excepto cuando
x
, excepto cuando
99
x
=
x
=
x
=