+ -
当前位置:首页 → 问答吧 → 有关分数在程序中的处理

有关分数在程序中的处理

时间:2011-12-15

来源:互联网

在根据两点计算出直线方程后 有了K 和b 又给出了一点 判断这点是否在直线上 我的问题在于 由于计算出的k和b都是浮点型的 但再带进直线方程是由于精度问题最后的结果有的很大的差异 请各位大侠们帮忙解决 谢谢

作者: kuche   发布时间: 2011-12-15

很大的差异,你要求多大的精度? double 13位精度都不够?

作者: mougaidong   发布时间: 2011-12-15

如果说求出来的k=1/3 但是计算机得出0.333333 不如k=3 那么方程y = kx + b 将k=0.333333 和1/3带进去 结果有差异啊

作者: kuche   发布时间: 2011-12-15

如果说这个点在直线上 那么这个点的y就等于这个点的x*k+b 可是k变成小数后 就不等了

作者: kuche   发布时间: 2011-12-15