Rangos de cálculo, cantidad de
dígitos y precisión
El rango de cálculo, la cantidad de dígitos utilizados para cálculos internos
y la precisión de cálculo depende del tipo de cálculo que realice.
Rango de cálculo y precisión
Rango de cálculo
Cantidad de dígitos
usados internamente
en el cálculo
Precisión
Rangos de introducción de cálculo de funciones y
precisión
Funciones
senx
cosx
tanx
-1
-1
sen
x, cos
x
-99
±1 × 10
a ±9,999999999 × 10
15 dígitos
En general, ±1 en el 10.º dígito para un
cálculo individual. La precisión con
visualización exponencial es ±1 sobre el dígito
menos significativo. En el caso de cálculos
consecutivos los errores se propagan
acumulativamente.
Rango de introducción
0 ≦ |x| < 9 × 10
Deg
0 ≦ |x| < 157079632,7
Rad
0 ≦ |x| < 1 × 10
Gra
El mismo que senx, excepto cuando |x|
Deg
= (2n-1) × 90.
El mismo que senx, excepto cuando |x|
Rad
= (2n-1) × π/2.
El mismo que senx, excepto cuando |x|
Gra
= (2n-1) × 100.
0 ≦ |x| ≦ 1
101
99
o 0
9
10