[已解决]小萌新~~~~

假花

>>> 0.1+0.1+0.1-0.3
               
5.551115123125783e-17


这种情况有没有一些简单的精确方式，越方便越好~~~

最佳答案

月排行榜 / 总排行榜

BngThea

2018-4-16 14:28:00

a= 0.1+0.1+0.1-0.3
'%f'%a

跳转到最佳答案楼层

BngThea

a= 0.1+0.1+0.1-0.3
'%f'%a

假花

BngThea 发表于 2018-4-16 14:28
a= 0.1+0.1+0.1-0.3
'%f'%a

谢谢，具体原理也是将浮点数转化成字符串的方式吗？

BngThea

假花 发表于 2018-4-18 08:09
谢谢，具体原理也是将浮点数转化成字符串的方式吗？

这是一种最简单的方式，还有库方法，可以设置计算精度

假花

BngThea 发表于 2018-4-18 08:56
这是一种最简单的方式，还有库方法，可以设置计算精度

嗯嗯，计算精度设置技能已经初步get到了，这个会，谢谢