① java丢失精度问题
float a = 3.14;这个语句的意思是把抄双精度浮点类型(double)赋值给单精度浮点类型(float)的变量a,把一个高精度的数赋值给一个低精度的数,就会照成精度丢失了。因为Java中,3.14这样的写法默认是认为double类型的,而3.14f这样的写法就会指定3.14这个数为float类型,这样赋值就不会有精度丢失了。注意,这里你不要单纯的把float想像成只能存一位小数点的数,3.14这个数同样用float可以存下
② JavaScript为什么浮点数会丢失精度
js浮点计算问题
问题
用js进行浮点数计算,结果可能会“超出预期”,大部分计算结果还是对的,但是我们可不想在计算这么严谨的事情上还有意外的惊喜。比如:
0.3 + 0.6 = 0.8999999999999999
0.3 - 0.2 = 0.09999999999999998
0.3 * 1.5 = 0.44999999999999996
0.3 / 0.1 = 2.9999999999999996
看完这几个计算结果,如果你没用过js,你可能会有点崩溃。我只能说,这就是js的魅力所在。
分析
在这之前,你需要知道以下几点:
js中数字类型只有Number;
js的Number是IEEE 754标准的64-bits的双精度数值
网上有很多关于此问题的解释,由于计算机是用二进制来存储和处理数字,不能精确表示浮点数,而js中没有相应的封装类来处理浮点数运算,直接计算会导致运算精度丢失。其实高级语言(c#,java)也存在此问题,只不过它们自己内部做了处理,把这种精度差异给屏蔽掉了。有些小数转换为二进制位数是无穷的(有循环),但是64位中小数最多只有52位,因此对于位数超过的相当于被截取了,导致了精度的丢失。这个地址可以用来浮点数和IEEE 754标准的64-bits的互转(背后是二进制的转换),用这个我们来验证下0.3-0.2。
0.3转换后为0.
0.2转换后为0.
0.-0.=0.
这和js直接计算的结果0.09999999999999998想吻合。
分析下来,终于明白并不是js自身发育不良,只是没有及时补充营养,我们只能另想出路了。
以上是网上找的
我以前遇到过问题2中浏览器计算的结果 是两种,所以和浏览器也有问题
③ js哪些运算精度丢失
由于在H5页面上需要进行动态的金额计算,且金额涉及到了小数,因而随之产生了浮点数计算的精度丢失问题。
刚开始的时候,测试给提了一个金额计算误差的问题,刚开始我还没怎么重视,然后瞅了瞅代码,随便改了改做了些异常处理,然后就给提交了。
接着,测试又提了一个bug,“6.8-0.9=5.8”。然后顿时我就蒙逼了,随后突然意识到,JS作为解释性语言,直接计算会有浮点数精度丢失问题。接下来,在网上找了一些资料,然后也根据具体的原理自己做了一些修改,最终解决了问题。
浮点数的二进制表示:
IEEE 754 标准是IEEE二进位浮点数算术标准(IEEE Standard for Floating-Point Arithmetic)的标准编号,等同于国际标准ISO/IEC/IEEE 60559。该标准由美国电气电子工程师学会(IEEE)计算机学会旗下的微处理器标准委员会(Microprocessor Standards Committee, MSC)发布。这个标准定义了表示浮点数的格式(包括负零-0)与反常值(denormal number),一些特殊数值(无穷(Inf)与非数值(NaN)),以及这些数值的「浮点数运算子」;它也指明了四种数值修约规则和五种例外状况(包括例外发生的时机与处理方式)。
JS的浮点数实现也是遵循IEEE 754标准,采用双精度存储(double precision),进行了相关的实现。其中1位用来表示符号位,11位用来表示指数,52位表示尾数。
解决方案:
本质上在处理这类问题的时候,基本的思路就是通过将浮点数转换成整数进行计算,然后再将整数的小数点位调整,转回正确的浮点数结果。
④ java float double精度为什么会丢失
首先有一个观念,在计算机里所有的数据都是以二进制的形势保存的。
我们来简单的举个例子,
对于int类型的数值我们不陌生, 10进制类型和2进制的转换也很简单
比如9= 0000 1001, 22=0001 0110 等
(注意:以下x^y 表示x的y次方)
换一种表示方式 9 = 2^3+2^0,22=2^4+2^2+2^1.很简单对不对
但是对于float和double类型的数据就变得不一样了,在清楚为什么精度会丢失的问题之前还需要先明白一件事
就像在10进制里 0.1 = 10^-1 0.01=10^-2 一样 在2进制里 小数点后边的数字也是用2^-n次方来解决的.
那么问题来了,大家都知道 2^-1 =0.5,2^-2=0.25
如果你想表示0.6的话在10进制里可以简单的用6*10^-1次方来表示,但是在2进制里怎么表示呢,?只能用尽可能接近的数据来表示比如 (1*2^-1)+(1*2^-3) 也就是 0.5+0.125 =0.625 约等于0.6 (这里只是举个例子,实际计算机在存储的时候要复杂一些),因为在2进制里边没有“准确”表示 比如 0.1,0.00000001 这样数据的2进制数据.
还有一点,操作系统的位数也会影响到float和double的精度,比如32位和64位
(纯手打 不明白的话 追问)