python 如何设置 精度
时间:2011-05-13
来源:互联网
python里整数已经是任意长度的,但浮点数有地方设置精度吗?
比如 1.0/3 我需要38位精度,怎么设?
'%10.50f'%(1.0/3) 这没用的,我要内部计算精度,不是显示位数.
用1E60/3 结果错误
用1000000000000000000000000000000/3.0 这样的 可以 但要转换,如果要求log(4542)这样的就不好转换了
比如 1.0/3 我需要38位精度,怎么设?
'%10.50f'%(1.0/3) 这没用的,我要内部计算精度,不是显示位数.
用1E60/3 结果错误
用1000000000000000000000000000000/3.0 这样的 可以 但要转换,如果要求log(4542)这样的就不好转换了
作者: qqjue 发布时间: 2011-05-13
decimal module
>>> from decimal import *
>>> getcontext().prec = 6
>>> Decimal(1) / Decimal(7)
Decimal('0.142857')
>>> getcontext().prec = 28
>>> Decimal(1) / Decimal(7)
Decimal('0.1428571428571428571428571429')
如果有更高的要求或者更加复杂的计算 可以考虑扩展库
>>> from decimal import *
>>> getcontext().prec = 6
>>> Decimal(1) / Decimal(7)
Decimal('0.142857')
>>> getcontext().prec = 28
>>> Decimal(1) / Decimal(7)
Decimal('0.1428571428571428571428571429')
如果有更高的要求或者更加复杂的计算 可以考虑扩展库
作者: ccporxy 发布时间: 2011-05-13
相关阅读 更多
热门阅读
-
office 2019专业增强版最新2021版激活秘钥/序列号/激活码推荐 附激活工具
阅读:74
-
如何安装mysql8.0
阅读:31
-
Word快速设置标题样式步骤详解
阅读:28
-
20+道必知必会的Vue面试题(附答案解析)
阅读:37
-
HTML如何制作表单
阅读:22
-
百词斩可以改天数吗?当然可以,4个步骤轻松修改天数!
阅读:31
-
ET文件格式和XLS格式文件之间如何转化?
阅读:24
-
react和vue的区别及优缺点是什么
阅读:121
-
支付宝人脸识别如何关闭?
阅读:21
-
腾讯微云怎么修改照片或视频备份路径?
阅读:28