欢迎您访问我爱IT技术网,今天小编为你分享的javascript教程:【javascript中的float运算精度实例分析】,下面是详细的讲解!
javascript中的float运算精度实例分析
<html>
<head>
<title>测试脚本</title>
<script language="JAVASCRIPT">
function init()
{
var i=0.07;
var r=i*100;
var r2=Math.round((i*100)*1000)/1000;
var r3=eval(i*100);
var r4=parseInt(i*100);
var r5=parseFloat(i*100*1.0000);
var r6=(1/3);
alert(r);
alert("Math.round="+r2);
alert("eval="+r3);
alert("parseInt="+r4);
alert("parseFloat="+r5);
alert(""+r6);
}
</script>
</head>
<body onload="init();">
</body>
</html>
关于javascript中的float运算精度实例分析的用户互动如下:
相关问题:js parsefloat 精度问题
答:这个误差与parseFloat无关,是因为javascript浮点数计算使用基于IEEE754数值的浮点计算的问题。 如果需要精确的计算,最好不要进行浮点数运算。 >>详细
相关问题:float 精度问题
答:给你说一段教科书上的话,你就明白了。说:C/C++中,浮点数的计算都是按double型进行的,最后赋给变量时,才区分单精度和双精度。具体到你的代码中,y+=x在执行时是把x和y都临时转换成double型进行加运算的,但最后赋给y时,强制转换成了float型... >>详细
相关问题:求高人相助:javascript parsefloat 转换超过16位...
答:js的Number精度明显达不到你的要求,不能实现 。 你应该考虑一下为什么需要转换成数字?实在没有其他途径的时候可以采用bigdecimal的工具库 >>详细
- 【firefox】firefox浏览器不支持innerText的解决
- 【Extjs】Extjs学习过程中新手容易碰到的低级错误
- 【clearInterval】js clearInterval()方法的定义
- 【ComboBox】ComboBox 和 DateField 在IE下消失的
- 【dom】javascript dom追加内容实现示例-追加内容
- 【has】基于jquery的has()方法以及与find()方法以
- 【extjs】Extjs入门之动态加载树代码-动态加载树
- 【checkbox】让checkbox不选中即将选中的checkbox
- 【Array】js中更短的 Array 类型转换-类型转换
- 【append】append和appendTo的区别以及appendChil
- 评论列表(网友评论仅供网友表达个人看法,并不表明本站同意其观点或证实其描述)
-
