Descargar Imprimir esta página

Metrohm Eco Coulometer Manual página 30

Publicidad

Algoritmos de cálculo
22
■■■■■■■■
Procedimientos de redondeo
Los valores medidos y los resultados se redondean hasta el número de
decimales definido (redondeo comercial, según la Farmacopea de los EE.
UU., USP). Si la cifra de la primera posición decimal que cae es 1, 2, 3 ó
4, se redondea hacia abajo; si esta cifra es 5, 6, 7, 8 ó 9, se redondea
hacia arriba. Los números negativos se redondean según su valor, es decir,
su distancia de cero.
Ejemplos:
2,33 pasará a ser 2,3
2,35 pasará a ser 2,4
2,47 pasará a ser 2,5
–2,38 pasará a ser –2,4
–2,45 pasará a ser –2,5
Estadística
Se calculan la media aritmética y la desviación estándar absoluta y relativa
de los resultados:
Se pueden evaluar estadísticamente un máximo de cinco resultados (1 ≤ k
≤ 5), que se calcularán en una determinación. Una serie estadística puede
incluir un máximo de 20 determinaciones (1 ≤ n ≤ 20).
Para las fórmulas a continuación se aplica la siguiente convención:
1 ≤ n ≤ 20 y 1 ≤ k ≤ 5.
Valor medio:
Desviación estándar absoluta:
Desviación estándar relativa (en %):
Explicaciones
En la estadística, se utilizan los valores individuales con toda su exactitud.
En el formato de número de 64 bits, para el formato de número de coma
flotante se obtienen 15 posiciones significativas en notación decimal.
La exactitud se puede controlar mediante la selección del prefijo de la uni-
dad (mili, micro) y el número de posiciones decimales.
Ejemplo
■■■■■■■■■■■■■■■■■■■■■■

Publicidad

loading