佚名通过本文主要向大家介绍了float类型精度,float精度,double float精度,c float精度,java float精度等相关知识,希望对您有所帮助,也希望大家支持linkedu.com www.linkedu.com
问题:float的精度为什么是6-7位,详细的算法怎么来的?
描述:
解决方案1:
描述:
不要用2的23次方来描述,这种描述我觉得无法理解,谢谢
解决方案1:
如上图,float 和 double 的情况类似,都是用上面的方法来表示数据,第一位 sign 是表示正负的,中间几位表示指数,最后几位是个小数。表示的数就会是想下面这样:
由于小数部分的位数是有限的,所以精度也就有限, 如果一个数超过了这个有限的精度,就会被四舍五入,也就损失了精度。你可以根据上面的图,算出来 double 的精度是 15 - 16 位,也可以找一下 float 的位分布,也就可以计算出 float 的精度。
解决方案2:http://blog.csdn.net/changlishuang/article/details/49913751
我自己通过这两个的整理做出的解释.