Algoritmos De Cálculo En 848 Titrino Plus; Formato Numérico; Procedimiento De Redondeo - Metrohm 848 Titrino plus Manual Del Usuario

Ocultar thumbs Ver también para 848 Titrino plus:
Tabla de contenido

Publicidad

■■■■■■■■■■■■■■■■■■■■■■
Respuesta del aparato
OK
E1
E2
E3
9.8
Algoritmos de cálculo en 848 Titrino plus
848 Titrino plus
Comentario
Instrucción ejecutada
Método no encontrado
Variable inválida
Instrucción inválida
Formato numérico
El software del 848 Titrino plus hace los cálculos según la norma ampliada
IEEE 754 (IEEE Standard for Binary Floating-Point Arithmetic for Micropro-
cessor Systems). Esto significa que los números se utilizan con "double
precision" (64 bits) en los cálculos. Los números decimales se convierten
en el interior del computador en números binarios y se utilizan en este for-
mato para los cálculos. La salida en la pantalla y en los informes se realiza
nuevamente en números decimales; los números binarios se transforman
por tanto nuevamente en números decimales. Para poder comprobar los
cálculos realizados internamente en el computador según IEEE 754, los
números se incluyen en el informe del cálculo con toda su exactitud. Entre
un número decimal introducido inicialmente y la representación interna
del computador con precisión completa se puede producir una diferencia
mínima en el rango de las últimas posiciones decimales. Esta diferencia se
debe al hecho de que no existe una correspondencia binaria exacta para
cada número decimal. Si, p. ej. se introduce el peso de muestra de 50,3
mg, se representará en el informe del cálculo en "double precision" como
5,02999999999999E+01.

Procedimiento de redondeo

Los valores de medida y los resultados se redondean hasta el número defi-
nido de posiciones decimales (redondeo comercial, según la Pharmaco-
poeia de los EE. UU., USP). Si la cifra de la primera posición decimal que
cae es 1, 2, 3 ó 4, se redondea hacia abajo; si esta cifra es 5, 6, 7, 8 ó
9, se redondea hacia arriba. Los números negativos se redondean según
su valor, es decir, su distancia de cero.
Ejemplos:
2,33 pasará a ser 2,3
2,35 pasará a ser 2,4
2,47 pasará a ser 2,5
–2,38 pasará a ser –2,4
–2,45 pasará a ser –2,5
9 Apéndice
■■■■■■■■
131

Publicidad

Tabla de contenido
loading

Tabla de contenido