0r="> 0r=" />
位运算与高精度运算.ppt

位运算与高精度运算.ppt

ID:59693723

大小:1.50 MB

页数:18页

时间:2020-11-19

位运算与高精度运算.ppt_第1页
位运算与高精度运算.ppt_第2页
位运算与高精度运算.ppt_第3页
位运算与高精度运算.ppt_第4页
位运算与高精度运算.ppt_第5页
资源描述:

《位运算与高精度运算.ppt》由会员上传分享,免费在线阅读,更多相关内容在工程资料-天天文库

1、位运算与高精度运算几个定义求负数的反码给出十进制数X(-1270r=tMod2s=②t=t2c=c+1LoopFori=1To8-cs=Str(1)+sNextiLabel1.Caption=sAbs(n)Str(1-r)+s求负数的补码该数对应的正数转换为二进制数,最高位作为符号位为1,其余每位二进制数取反,末位加1。程序Dima(1To8)AsIn

2、tegerDimxAsInteger,bAsStringx=Abs(Val(Text1.Text))Fori=1To7a(i)=xMod2x=x2NextiFori=1To7a(i)=1-a(i)Nextii=1:b="1"a(1)=a(1)+1DoWhilea(i)=2Andi<7a(i)=0a(i+1)=a(i+1)+1i=i+1LoopFori=7To1Step-1b=b+Trim(Str(a(i)))NextiLabel1.Caption=b数据类型数据类型名说明性质Integer整数型-32768~32767L

3、ong长整型-2147483648~2147483647Single单精度绝对值在1.401298E-45~3.402823E38内的实数,占4BDouble双精度绝对值在10E-324~1.79E308内的实数,占8B有效位数为15位高精度运算在VB中,各种数据类型都有它的值范围(因为受到存储空间的限制),比如Integer(2个字节),值范围是-32768至32767,因此,当超过一定位数的大数据进行数学运算时,普通变量可能无法存储运算数或结果值,有一种解决方案是采用数组来存储。高精度运算精确完整地显示一个数各位上的数

4、字,不管该数有多少位。结合数组、字符串等来处理问题。每个数组元素存储1位(这是一个重点),有多少位就需要多少个数组元素;用数组表示数的优点:每一位都是数的形式,可以直接加减;运算时非常方便。加法解决方案:将相加的两个数,按位存入两个数组中,从两个数组的最低位(个位)开始,将每一位的和存入第三个数组中。同时,在相加的过程中,考虑进位问题。减法解决方案:将相减的两个数,按位存入两个数组中,从两个数组的最低位(个位)开始,将每一位的差存入第三个数组中。同时,在相减的过程中,考虑借位问题,跟相加不一样的是,相减之前先判断大小,然后

5、借位,最后相减。如果借位,一定借1。作业一进阶题典专题31:4,5,7,9乘法情况一:多位数乘一位,将多位数按位存入数组中,然后从数组的最低位(即个位)开始,依次与一位乘数相乘,并把结果存入另一个数组中。同时,在相乘的过程中,考虑进位问题。多位数乘多位数将两个乘数分别按位存入数组a和数组b中,然后将a数组的每一位(从个位开始)去乘b数组的最低位(即个位),结果存入数组c中,同时考虑进位问题;然后将a数组的每一位(从个位开始)去乘b数组的第二位(即十位),同时考虑进位问题,……,直至b数组的所有位都乘完。“高精度除法”思路大

6、数除以大数,可以考虑用减法来实现。用一个数组来保留商的每一位,最后串在一起就是结果。由于商是用余数来求的,余数可以不保留,也可以保留。因此可以用另一个数组来保留每一次的余数,也可以用一个变量来存储最新的余数,用完再覆盖。数学常识常识一:整数除以整数,一定是有理数,即要么除尽,要么除不尽,除不尽的情况下结果必定是无限循环小数。如果是除不尽的情况,只要保留一个循环节即可。常识二:当某一次计算的余数(不是商)与之前某一次相等时,表示循环节出现。第2题考虑不周到,应该如何修改?作业二进阶题典专题31:1,2,3,5,8

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。