6 puntos por kunggom 2020-01-07 | Aún no hay comentarios. | Compartir por WhatsApp

El método de punto flotante (Floating point), que se usa comúnmente para representar números reales no enteros en las computadoras, tiene la ventaja de poder expresar un rango muy amplio de números, pero como no deja de ser una representación aproximada, tiene la desventaja de que introduce errores y no permite una representación o cálculo exactos. Además, también hay que tener en cuenta que no está garantizado que el procesamiento sea igual en todos los lenguajes. Sobre estas diferencias sutiles en el manejo de punto flotante entre varios lenguajes, se puede consultar https://0.30000000000000004.com/ .

Presentamos un documento que explica cómo resolver problemas causados por errores de punto flotante en Python (aproximadamente desde la versión 3.5 en adelante). (Coreano) Al parecer, la solución más limpia es introducir el módulo decimal y usar un tipo de dato decimal. La idea es que, si el problema está en el punto flotante basado en binario, entonces calcular en decimal, como lo hacen las personas, evita ese problema. De hecho, se dice que este método también se usa en áreas como finanzas o contabilidad, donde los cálculos con decimales deben ser exactos.

p.s.

Como referencia, se sabe que los CPU que se usan en mainframes de IBM incluyen por hardware una función para calcular números decimales. Todavía hay muchos bancos y otras instituciones que siguen usando mainframes.

Aún no hay comentarios.

Aún no hay comentarios.