整数以浮点形式储存
时间:2011-08-16
来源:互联网
例:
dim A as integer
dim B as single
A=8
B=A
debug.print B
这时输出7.99999……
想请教:
1、这样的问题叫做什么问题?
2、如何让B的值等于8?
dim A as integer
dim B as single
A=8
B=A
debug.print B
这时输出7.99999……
想请教:
1、这样的问题叫做什么问题?
2、如何让B的值等于8?
作者: xiaomingt10 发布时间: 2011-08-16
VB code
LZ的代码未出现如LZ所说情况.
Private Sub Command1_Click() Dim A As Integer Dim B As Single A = 8 B = A Debug.Print B End Sub
LZ的代码未出现如LZ所说情况.
作者: zdingyun 发布时间: 2011-08-16

作者: zdingyun 发布时间: 2011-08-16
有可能会有类似的情况,这是浮点数低层二进转换时不能绝对对应造成的。
可以试着用Currency变量,或把结果再转成整型再进行计算。
可以试着用Currency变量,或把结果再转成整型再进行计算。
作者: chinaboyzyq 发布时间: 2011-08-16
相关阅读 更多
热门阅读
-
office 2019专业增强版最新2021版激活秘钥/序列号/激活码推荐 附激活工具
阅读:74
-
如何安装mysql8.0
阅读:31
-
Word快速设置标题样式步骤详解
阅读:28
-
20+道必知必会的Vue面试题(附答案解析)
阅读:37
-
HTML如何制作表单
阅读:22
-
百词斩可以改天数吗?当然可以,4个步骤轻松修改天数!
阅读:31
-
ET文件格式和XLS格式文件之间如何转化?
阅读:24
-
react和vue的区别及优缺点是什么
阅读:121
-
支付宝人脸识别如何关闭?
阅读:21
-
腾讯微云怎么修改照片或视频备份路径?
阅读:28