有关分数在程序中的处理
时间:2011-12-15
来源:互联网
在根据两点计算出直线方程后 有了K 和b 又给出了一点 判断这点是否在直线上 我的问题在于 由于计算出的k和b都是浮点型的 但再带进直线方程是由于精度问题最后的结果有的很大的差异 请各位大侠们帮忙解决 谢谢
作者: kuche 发布时间: 2011-12-15
很大的差异,你要求多大的精度? double 13位精度都不够?
作者: mougaidong 发布时间: 2011-12-15
如果说求出来的k=1/3 但是计算机得出0.333333 不如k=3 那么方程y = kx + b 将k=0.333333 和1/3带进去 结果有差异啊
作者: kuche 发布时间: 2011-12-15
如果说这个点在直线上 那么这个点的y就等于这个点的x*k+b 可是k变成小数后 就不等了
作者: kuche 发布时间: 2011-12-15
相关阅读 更多
热门阅读
-
office 2019专业增强版最新2021版激活秘钥/序列号/激活码推荐 附激活工具
阅读:74
-
如何安装mysql8.0
阅读:31
-
Word快速设置标题样式步骤详解
阅读:28
-
20+道必知必会的Vue面试题(附答案解析)
阅读:37
-
HTML如何制作表单
阅读:22
-
百词斩可以改天数吗?当然可以,4个步骤轻松修改天数!
阅读:31
-
ET文件格式和XLS格式文件之间如何转化?
阅读:24
-
react和vue的区别及优缺点是什么
阅读:121
-
支付宝人脸识别如何关闭?
阅读:21
-
腾讯微云怎么修改照片或视频备份路径?
阅读:28