通过本文主要向大家介绍了double 误差,double类型,double类型范围,c语言double类型,matlab double类型等相关知识,希望对您有所帮助,也希望大家支持linkedu.com www.linkedu.com
今天在自己做的系统中，发现了一个奇怪的现象：几个Double类型的数据相加，到最后得出的金额比正确数值总是少了几毛钱。以为是程序里的计算方法有问题，可是排查了很多地方，始终没有找到问题出在哪里。最后干脆把计算方法一句一句拆分，得到了最后最简单的一步，就是把两个具体的数值相加，但是最后的结果居然还是错误的。比如，现在已经到了最简单的一步：
我们的系统里有保留小数位数为4位，按理是可以四舍五入成199.77的。但是因为有做金额的合计，是几十甚至几百个数据的相加，由于每两个数相加的时候都可能产生上述误差，因此最后得到的结果已经有了近0.7的误差，就算再四舍五入也于事无补了。
上网查了一下相关资料，觉得CSDN论坛里的这个帖子的解释还是比较详细的：http://bbs.csdn.net/topics/300023952，大意是说由于运算的时候进行了进制的转换造成的（见8楼回复），所有的精度类型在几乎所有语言下都有这个问题。比较有效的解决办法是使用BigDecimal（见14楼回复），但是我个人认为那个BigDecimal的解决办法太麻烦了，至少对于我的系统来说是这样。还不如每加一次之后都进行一次字符串转换，保留有效的小数位数，比如，上述语句可以改写成：
当然最好是把这种处理方法做成一个公用方法，专门用来处理两个数的相加。