关于Python中浮点数精度处理的技巧总结


Posted in Python onAugust 10, 2017

前言

最近在使用Python的时候遇到浮点数运算,发现经常会碰到如下情况:

关于Python中浮点数精度处理的技巧总结

出现上面的情况,主要还是因浮点数在计算机中实际是以二进制保存的,有些数不精确。

比如说: 0.1是十进制,转化为二进制后它是个无限循环的数:

0.00011001100110011001100110011001100110011001100110011001100

而python是以双精度(64)位来保存浮点数,多余的位会被截掉,所以看到的是0.1,但在电脑上实际保存的已不是精确的0.1,参与运算后,也就有可能点误差,特别是金融邻域里面,对精度更是要求更高,如何在Python中获取特定位数精度值?

【方法一】利用round方法:

关于Python中浮点数精度处理的技巧总结

【方法二】利用decimal模块:

关于Python中浮点数精度处理的技巧总结

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流,谢谢大家对三水点靠木的支持。

Python 相关文章推荐
python复制文件代码实现
Dec 23 Python
Python中获取网页状态码的两个方法
Nov 03 Python
python实现根据主机名字获得所有ip地址的方法
Jun 28 Python
Python二叉树的定义及常用遍历算法分析
Nov 24 Python
django上传图片并生成缩略图方法示例
Dec 11 Python
python 使用装饰器并记录log的示例代码
Jul 12 Python
django-rest-framework 自定义swagger过程详解
Jul 18 Python
Python Gitlab Api 使用方法
Aug 28 Python
如何基于Python获取图片的物理尺寸
Nov 25 Python
Python基于pandas爬取网页表格数据
May 11 Python
在python中使用pyspark读写Hive数据操作
Jun 06 Python
如何Tkinter模块编写Python图形界面
Oct 14 Python
Python 处理数据的实例详解
Aug 10 #Python
Python 由字符串函数名得到对应的函数(实例讲解)
Aug 10 #Python
关于Python中空格字符串处理的技巧总结
Aug 10 #Python
Python排序算法实例代码
Aug 10 #Python
简单谈谈python中的语句和语法
Aug 10 #Python
Python中如何优雅的合并两个字典(dict)方法示例
Aug 09 #Python
Python中使用多进程来实现并行处理的方法小结
Aug 09 #Python
You might like
php+jquery编码方面的一些心得(utf-8 gb2312)
2010/10/12 PHP
php实现自动获取生成文章主题关键词功能的深入分析
2013/06/03 PHP
php中通用的excel导出方法实例
2017/12/30 PHP
PHP 爬取网页的主要方法
2018/07/13 PHP
PHP asXML()函数讲解
2019/02/03 PHP
Prototype使用指南之dom.js
2007/01/10 Javascript
javascript-TreeView父子联动效果保持节点状态一致
2007/08/12 Javascript
JavaScript 应用技巧集合[推荐]
2009/08/30 Javascript
setTimeout和setInterval的区别你真的了解吗?
2011/03/31 Javascript
运行Node.js的IIS扩展iisnode安装配置笔记
2015/03/02 Javascript
javascript中判断json的方法总结
2015/08/27 Javascript
Mvc提交表单的四种方法全程详解
2016/08/10 Javascript
JavaScript实现的反序列化json字符串操作示例
2018/07/18 Javascript
jquery 动态遍历select 赋值的实例
2018/09/12 jQuery
vue+moment实现倒计时效果
2019/08/26 Javascript
Vue项目中Api的组织和返回数据处理的操作
2019/11/04 Javascript
vue+element 实现商城主题开发的示例代码
2020/03/26 Javascript
如何在Vue中使localStorage具有响应式(思想实验)
2020/07/14 Javascript
用Python操作字符串之rindex()方法的使用
2015/05/19 Python
Python判断字符串与大小写转换
2015/06/08 Python
Python Property属性的2种用法
2015/06/21 Python
Python使用POP3和SMTP协议收发邮件的示例代码
2019/04/16 Python
python实现监控阿里云账户余额功能
2019/12/16 Python
Python字典中的值为列表或字典的构造实例
2019/12/16 Python
Python实现自动打开电脑应用的示例代码
2020/04/17 Python
python 将列表里的字典元素合并为一个字典实例
2020/09/01 Python
python -v 报错问题的解决方法
2020/09/15 Python
linux centos 7.x 安装 python3.x 替换 python2.x的过程解析
2020/12/14 Python
CSS3中的@keyframes关键帧动画的选择器绑定
2016/06/13 HTML / CSS
德国化妆品和天然化妆品网上商店:kosmetikfuchs.de
2017/06/09 全球购物
Pandora西班牙官方商店:PandoraShop.es
2020/10/05 全球购物
智乐游戏测试笔试题
2014/05/21 面试题
2014年道德讲堂实施方案
2014/03/05 职场文书
副总经理岗位职责
2014/03/16 职场文书
学生党员一帮一活动总结
2014/07/08 职场文书
环保守法证明
2015/06/24 职场文书