这一节详细说明 “0.1” 示例,教你怎样自己去精确的分析此类案例。假设这里你已经对浮点数表示有基本的了解。
Representation error 提及事实上有些(实际是大多数)十进制小数不能精确的表示为二进制小数。这是 Python (或 Perl,C,C++,Java,Fortran 以及其它很多)语言往往不能按你期待的样子显示十进制数值的根本原因。
这是为什么? 1/10 不能精确的表示为二进制小数。大多数今天的机器(2000年十一月)使用 IEEE-754 浮点数算法,大多数平台上 Python 将浮点数映射为 IEEE-754 “双精度浮点数”。754 双精度包含 53 位精度,所以计算机努力将输入的 0.1 转为 J /2**N 最接近的二进制小数。J 是一个 53 位的整数。改写: 1 / 10 ~= J / (2**N)
为 J ~= 2**N / 10
。
J 重现时正是 53 位(是 >= 2**52
而非 < 2**53
), N 的最佳值是 56:
>>> 2**52 <= 2**56 // 10 < 2**53
True
因此,56 是保持 J 精度的唯一 N 值。J 最好的近似值是整除的商:
>>> q, r = divmod(2**56, 10)
>>> r
6
因为余数大于 10 的一半,最好的近似是取上界:
>>> q+1
7205759403792794
因此在 754 双精度中 1/10 最好的近似值是是 2**56,或:
7205759403792794 / 2 ** 56
分子和分母都除以2将小数缩小到:
3602879701896397 / 2 ** 55
要注意因为我们向上舍入,它其实比 1/10 稍大一点点。如果我们没有向上舍入,它会比 1/10 稍小一点。但是没办法让它 恰好 是 1/10!
所以计算机永远也不 “知道” 1/10:它遇到上面这个小数,给出它所能得到的最佳的 754 双精度实数:
>>> .1 * 2**55
7205759403792794.0
如果我们把这小数乘以 10**55,我们可以看到其55位十进制数的值:
>>> 3602879701896397 * 10 ** 55 // 2 ** 55
1000000000000000055511151231257827021181583404541015625
这表示存储在计算机中的实际值近似等于十进制值 0.1000000000000000055511151231257827021181583404541015625
。许多语言(包括旧版本的Python)会把结果舍入到 17 位有效数字,而不是显示全部的十进制值:
>>> format(0.1, '.17f')
'0.10000000000000001'
fractions 和 decimal 模块使得这些计算很简单:
>>> from decimal import Decimal
>>> from fractions import Fraction
>>> Fraction.from_float(0.1)
Fraction(3602879701896397, 36028797018963968)
>>> (0.1).as_integer_ratio()
(3602879701896397, 36028797018963968)
>>> Decimal.from_float(0.1)
Decimal('0.1000000000000000055511151231257827021181583404541015625')
>>> format(Decimal.from_float(0.1), '.17')
'0.10000000000000001'