js加减乘除丢失精度问题解决方法


Posted in Javascript onMay 16, 2014

在javascript中,当你使用小数进行加减乘除运算时,你会发现,所得到的结果有时后面带有长长的一段小数,使运算变得复杂,并且影响计算结果。上网查询了一下原因,大致如下:在javascript中,带小数的数据运算时总会出现好多位小数.这是因为在javascript中浮点数的计算是以2进制计算的。

/** 
* 加法运算,避免数据相加小数点后产生多位数和计算精度损失。 
* 
* @param num1加数1 | num2加数2 
*/ 
function numAdd(num1, num2) { 
var baseNum, baseNum1, baseNum2; 
try { 
baseNum1 = num1.toString().split(".")[1].length; 
} catch (e) { 
baseNum1 = 0; 
} 
try { 
baseNum2 = num2.toString().split(".")[1].length; 
} catch (e) { 
baseNum2 = 0; 
} 
baseNum = Math.pow(10, Math.max(baseNum1, baseNum2)); 
return (num1 * baseNum + num2 * baseNum) / baseNum; 
}; 
/** 
* 加法运算,避免数据相减小数点后产生多位数和计算精度损失。 
* 
* @param num1被减数 | num2减数 
*/ 
function numSub(num1, num2) { 
var baseNum, baseNum1, baseNum2; 
var precision;// 精度 
try { 
baseNum1 = num1.toString().split(".")[1].length; 
} catch (e) { 
baseNum1 = 0; 
} 
try { 
baseNum2 = num2.toString().split(".")[1].length; 
} catch (e) { 
baseNum2 = 0; 
} 
baseNum = Math.pow(10, Math.max(baseNum1, baseNum2)); 
precision = (baseNum1 >= baseNum2) ? baseNum1 : baseNum2; 
return ((num1 * baseNum - num2 * baseNum) / baseNum).toFixed(precision); 
}; 
/** 
* 乘法运算,避免数据相乘小数点后产生多位数和计算精度损失。 
* 
* @param num1被乘数 | num2乘数 
*/ 
function numMulti(num1, num2) { 
var baseNum = 0; 
try { 
baseNum += num1.toString().split(".")[1].length; 
} catch (e) { 
} 
try { 
baseNum += num2.toString().split(".")[1].length; 
} catch (e) { 
} 
return Number(num1.toString().replace(".", "")) * Number(num2.toString().replace(".", "")) / Math.pow(10, baseNum); 
}; 
/** 
* 除法运算,避免数据相除小数点后产生多位数和计算精度损失。 
* 
* @param num1被除数 | num2除数 
*/ 
function numDiv(num1, num2) { 
var baseNum1 = 0, baseNum2 = 0; 
var baseNum3, baseNum4; 
try { 
baseNum1 = num1.toString().split(".")[1].length; 
} catch (e) { 
baseNum1 = 0; 
} 
try { 
baseNum2 = num2.toString().split(".")[1].length; 
} catch (e) { 
baseNum2 = 0; 
} 
with (Math) { 
baseNum3 = Number(num1.toString().replace(".", "")); 
baseNum4 = Number(num2.toString().replace(".", "")); 
return (baseNum3 / baseNum4) * pow(10, baseNum2 - baseNum1); 
} 
};
Javascript 相关文章推荐
表单的一些基本用法与技巧
Jul 15 Javascript
JavaScript中的集合及效率
Jan 08 Javascript
javascript:history.go()和History.back()的区别及应用
Nov 25 Javascript
前端开发过程中浏览器版本的两种判定方法
Oct 30 Javascript
jquery实现简单易懂的图片展示小例子
Nov 21 Javascript
创建你的第一个AngularJS应用的方法
Jun 16 Javascript
javascript学习笔记之函数定义
Jun 25 Javascript
微信小程序之蓝牙的链接
Sep 26 Javascript
vue+webpack 打包文件 404 页面空白的解决方法
Feb 28 Javascript
vue+Element中table表格实现可编辑(select下拉框)
May 21 Javascript
微信小程序收藏功能的实现代码
Jun 19 Javascript
详解CocosCreator项目结构机制
Apr 14 Javascript
js脚本获取webform服务器控件的方法
May 16 #Javascript
js加入收藏夹代码(兼容ie/ff/op)
May 16 #Javascript
javascript生成随机数的方法
May 16 #Javascript
从零学jquery之如何使用回调函数
May 16 #Javascript
一张表格告诉你windows.onload()与$(document).ready()的区别
May 16 #Javascript
Jquery倒计时源码分享
May 16 #Javascript
js取模(求余数)隔行变色
May 15 #Javascript
You might like
php中实现简单的ACL 完结篇
2011/09/07 PHP
PHP 转义使用详解
2013/07/15 PHP
php实现分页显示
2015/11/03 PHP
[原创]PHP实现逐行删除文件右侧空格的方法
2015/12/25 PHP
详解WordPress中分类函数wp_list_categories的使用
2016/01/04 PHP
CI配置多数据库访问的方法
2016/03/28 PHP
PHP获取当前日期及本周一是几月几号的方法
2017/03/28 PHP
基于jQuery的获得各种控件Value的方法
2010/11/19 Javascript
JavaScript控制Session操作方法
2013/01/17 Javascript
jquery判断RadioButtonList和RadioButton中是否有选中项示例
2013/09/29 Javascript
在JavaScript中操作时间之getUTCDate()方法的使用
2015/06/10 Javascript
mvvm双向绑定机制的原理和实现代码(推荐)
2016/06/07 Javascript
vue如何使用 Slot 分发内容实例详解
2017/09/05 Javascript
vue表单验证你真的会了吗?vue表单验证(form)validate
2019/04/07 Javascript
微信小程序 SOTER 生物认证DEMO 指纹识别功能
2019/12/13 Javascript
ES6学习笔记之字符串、数组、对象、函数新增知识点实例分析
2020/01/22 Javascript
用VsCode编辑TypeScript的实现方法
2020/05/07 Javascript
[43:03]LGD vs Newbee 2019国际邀请赛小组赛 BO2 第一场 8.16
2019/08/19 DOTA
Python+微信接口实现运维报警
2016/08/27 Python
python ddt实现数据驱动
2018/03/14 Python
详解如何将python3.6软件的py文件打包成exe程序
2018/10/09 Python
python 多个参数不为空校验方法
2019/02/14 Python
实例详解python函数的对象、函数嵌套、名称空间和作用域
2019/05/31 Python
pywinauto自动化操作记事本
2019/08/26 Python
TensorFlow Autodiff自动微分详解
2020/07/06 Python
浅谈pandas dataframe对除数是零的处理
2020/07/20 Python
英国航空官网:British Airways
2016/09/11 全球购物
Shopee马来西亚:随拍即卖,最佳行动电商拍卖平台
2017/06/05 全球购物
师范生实习自我鉴定
2013/11/01 职场文书
回门宴答谢词
2014/01/13 职场文书
学校出纳员岗位职责
2014/03/18 职场文书
五年级学生评语
2014/04/22 职场文书
2014年度党员自我评议
2014/09/13 职场文书
七年级之家长会发言稿范文
2019/09/04 职场文书
Redis基于Bitmap实现用户签到功能
2021/06/20 Redis
nginx常用配置conf的示例代码详解
2022/03/21 Servers