浮点数的问题

《浮点数的问题》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、浮点数及其比较问题一、浮点数表示及精度问题1、浮点数IEEE754定义了单精度浮点数和双精度数浮点数，即float和double。float有32bit，double有64bit。它们都包括符号位、指数和尾数。符号位指数尾数float31(1)30-23(8)22-0(23)double63(1)62-52(11)51-0(52)符号位有1bit，0表示正、1表示负。设一个数的指数是e，指数部分的值是bias+e。加上一个bias是为了表示负数。float的bias是127，double的bias是1023。指数全0或全1有特殊含义，不算正常指数。*float的指数部分有8bit，可以

2、取值1~254，减掉127，得到对应的指数范围-126~127。*double的指数部分有11位，可以取值1~2046，减掉1023，得到对应的指数范围-1022~1023。这里的指数是以2为底的，同样尾数也是二进制的。IEEE754要求浮点数以规范形式存储，即小数点前有1位非零数字。对于二进制数，非零数字只有1。所以IEEE754在存储时省略了这个小数点前面的1，只存储小数点后面的位。2、误差看个例子，设：doublea=0.2;在PC上，我们可以看到a对应的存储区数据是：9A9999999999C93FPC的数据是小尾的，即低位字节在后，将其写成高位字节在前，得到：3FC99999

3、9999999A可见符号位为0。指数位是0x3FC，即1020，减掉1023，得到指数-3。尾数是999999999999A。所以完整的数字就是16进制的1.999999999999A乘上2^-3。即：a=(1+9*(1/16+1/16^2+...+1/16^12)+10/16^13)*2^-3(1/16+...+1/16^12)可以用等比级数求和公式a1*(1-q^n)/(1-q)计算，其中a1=1/16，q=1/16，n=12，因此：a=(1+9*(1-1/16^12)/15+10/16^13)*2^-3用windows的计算器计算上式，得到a=0.2000000000000000

4、1110223024625157这也不是精确解，但已经可以看到用double表示0.2时存在的误差。这个例子说明在用有限字长的二进制浮点数表示任意实数a可能引入误差。设实数a的指数为e，尾数位数为n，显然：误差<(1/2^n)*2^e3、精度可以把机器精度定义为满足条件：fl(1+ε)>1的最小浮点数ε。其中fl(1+ε)是1+ε的浮点表示。显然double的机器精度是1/2^52。float的机器精度是1/2^23。浮点数的精度取决于尾数部分。尾数部分的位数越多，能够表示的有效数字越多。十进制数的计算公式为（n^m表示n的m次幂，B表示前面的数字是二进制）：S*2^(E-127)*(

5、1.M)B单精度数的尾数用23位存储，加上默认的小数点前的1位1，2^(23+1)=16777216。因为10^7<16777216<10^8，所以说单精度浮点数的有效位数是7位。双精度的尾数用52位存储，2^(52+1)=9007199254740992，10^16<9007199254740992<10^17，所以双精度的有效位数是16位。4、特殊的浮点数前面提到浮点数的指数全0或全1有特殊含义，让我们来看看这些特殊的浮点数：*指数和尾数都是全0表示0。根据符号位不同可以分为+0和-0。*指数全0，尾数不为全0，这些数是非规范数，即尾数部分不假设前面存在小数点前的1。或者说这些数太

6、接近0了，因为指数已经不能再小，所以这些数不能写成规范形式。例如：double数0000000000000001的尾数是0000000000001，即1/2^52，对应的数是1/(2^52)*2^-1022，即4.9406564584124654e-324。*指数全1，尾数全0表示无穷大，即inf。根据符号位不同可以分为+inf和-inf。*指数全1，尾数不为全0表示NaN，即NotaNumber，不是数。尾数最高位为1的NaN被称作QNaN（QuietNaN）。尾数最高位为0的NaN被称作SNaN（SignallingNaN）。通常用QNaN表示不确定的操作，用SNaN表示无效的操作

7、。在计算机内部，double就是一个64位数。从0x0000000000000000~0xFFFFFFFFFFFFFFFF，每个64位数都对应一个浮点数或NaN。double内部表示的设计是很有规律的，按照对应64位数的顺序依次为+0、正非规范数、正规范数、正无穷大、符号位为正的NaN、-0、负非规范数、负规范数、负无穷大、符号位为负的NaN。5、结束语float和int都是32bit，但float的尾数只用了23bit。int的精度高于flo