关于Python中浮点数精度处理的技巧总结


Posted in Python onAugust 10, 2017

前言

最近在使用Python的时候遇到浮点数运算,发现经常会碰到如下情况:

关于Python中浮点数精度处理的技巧总结

出现上面的情况,主要还是因浮点数在计算机中实际是以二进制保存的,有些数不精确。

比如说: 0.1是十进制,转化为二进制后它是个无限循环的数:

0.00011001100110011001100110011001100110011001100110011001100

而python是以双精度(64)位来保存浮点数,多余的位会被截掉,所以看到的是0.1,但在电脑上实际保存的已不是精确的0.1,参与运算后,也就有可能点误差,特别是金融邻域里面,对精度更是要求更高,如何在Python中获取特定位数精度值?

【方法一】利用round方法:

关于Python中浮点数精度处理的技巧总结

【方法二】利用decimal模块:

关于Python中浮点数精度处理的技巧总结

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流,谢谢大家对三水点靠木的支持。

Python 相关文章推荐
在Django框架中伪造捕捉到的URLconf值的方法
Jul 18 Python
Python的collections模块中namedtuple结构使用示例
Jul 07 Python
Python中Django发送带图片和附件的邮件
Mar 31 Python
pycharm下查看python的变量类型和变量内容的方法
Jun 26 Python
Python标准库使用OrderedDict类的实例讲解
Feb 14 Python
Python常见数字运算操作实例小结
Mar 22 Python
详解Python数据可视化编程 - 词云生成并保存(jieba+WordCloud)
Mar 26 Python
python实现五子棋游戏
Jun 18 Python
python把转列表为集合的方法
Jun 28 Python
Python importlib动态导入模块实现代码
Apr 16 Python
jupyter notebook 实现matplotlib图动态刷新
Apr 22 Python
Python装饰器如何实现修复过程解析
Sep 05 Python
Python 处理数据的实例详解
Aug 10 #Python
Python 由字符串函数名得到对应的函数(实例讲解)
Aug 10 #Python
关于Python中空格字符串处理的技巧总结
Aug 10 #Python
Python排序算法实例代码
Aug 10 #Python
简单谈谈python中的语句和语法
Aug 10 #Python
Python中如何优雅的合并两个字典(dict)方法示例
Aug 09 #Python
Python中使用多进程来实现并行处理的方法小结
Aug 09 #Python
You might like
抓取并下载CSS中所有图片文件的php代码
2011/09/26 PHP
解析php框架codeigniter中如何使用框架的session
2013/06/24 PHP
PHP验证码类ValidateCode解析
2017/01/07 PHP
js加解密 脚本解密
2008/02/22 Javascript
jQuery EasyUI API 中文文档 - ComboGrid 组合表格
2011/10/13 Javascript
Javascript表格翻页效果的具体实现
2013/10/05 Javascript
js生成随机数之random函数随机示例
2013/12/20 Javascript
JQuery中的事件及动画用法实例
2015/01/26 Javascript
javascript实现检验的各种规则
2015/07/31 Javascript
BootStrap tooltip提示框使用小结
2016/10/26 Javascript
Bootstrap标签页(Tab)插件使用方法
2017/03/21 Javascript
妙用Angularjs实现表格按指定列排序
2017/06/23 Javascript
ES6中的rest参数与扩展运算符详解
2017/07/18 Javascript
ES6中新增的Object.assign()方法详解
2017/09/22 Javascript
vue踩坑记-在项目中安装依赖模块npm install报错
2019/04/02 Javascript
JS出现404错误原理及解决方案
2020/07/01 Javascript
JS canvas实现画板和签字板功能
2021/02/23 Javascript
[03:02]生活中的Dendi之野外度假篇
2016/08/09 DOTA
[44:30]完美世界DOTA2联赛PWL S2 GXR vs Magma 第一场 11.25
2020/11/26 DOTA
用Python编写一个基于终端的实现翻译的脚本
2015/04/24 Python
python删除列表中重复记录的方法
2015/04/28 Python
基于python中theano库的线性回归
2018/08/31 Python
pycharm远程开发项目的实现步骤
2019/01/20 Python
谈谈Python中的while循环语句
2019/03/10 Python
Python使用POP3和SMTP协议收发邮件的示例代码
2019/04/16 Python
基于python操作ES实例详解
2019/11/16 Python
用CSS3打造HTML5的Logo(实现代码)
2016/06/16 HTML / CSS
基于HTML5实现类似微信手机摇一摇功能(计算摇动次数)
2017/07/24 HTML / CSS
data:image data url 文件转为Blob上传后端的方法
2019/07/16 HTML / CSS
Woolworth官网:澳洲第一大超市
2017/06/25 全球购物
天鹅的故事教学反思
2014/02/04 职场文书
保证书范文大全
2014/04/28 职场文书
基层党员群众路线整改措施及努力方向
2014/10/28 职场文书
2014年学校总务处工作总结
2014/12/08 职场文书
教学质量月活动总结
2015/05/11 职场文书
python小程序之飘落的银杏
2021/04/17 Python