本文所分享的知识点是【JS长整型精度问题实例分析】,欢迎您喜欢我爱IT技术网所分享的教程、知识、经验或攻略,下面是详细的讲解。
JS长整型精度问题实例分析
本文实例分析了一个JS长整型精度问题。分享给大家供大家参考。具体分析如下:
问题描述:
后台有一个脚本功能,可编写脚本动态调用Java代码
var roleId=10214734953631045;
p360ApiController.notice(roleId, 4);
脚本执行成功,但运行结果与设定不一样,此人没有收到邮件
查看日志 recharge award has been sent. roleId=10214734953631044;
这角色ID数字少1,这....
问题分析:
应该是JS精度问题,
精度
整数(不使用小数点或指数计数法)最多为 15 位。
小数的最大位数是 17,但是浮点运算并不总是 100% 准确:
修改脚本
var output=roleId;
输出:
1.0214734953631044E16;
这不是JavaScript的错,也不是Java的错,上面转成Long 确实是 roleId=10214734953631044;
可不可以那样呢?
javascript控制台输入的都是字符串,然后调用java里的Integer.valueOf或者Long.valueOf转换呢?
解决方案:
编写一个通用的转化方法 目的把角色ID用字符串传到JavaScriptEngine
importClass(com.ztgame.center.controller.api,P360ApiController);
申明为字符串
这样JavaScriptEngine拿到的 就是字符串了 其实工作就是Java去处理了
执行成功,先就这样用吧~
希望本文所述对大家的javascript程序设计有所帮助。
关于JS长整型精度问题实例分析的相关讨论如下:
相关问题:单精度型与长整型数据的运算结果为什么类型
答:如果仅仅是运算,那么结果是单精度型,如果是通过表达式给变量赋值,结果将被转换成变量的数据类型。 >>详细
相关问题:整型,长整型,无符号整型,单精度,双精度,字符...
答:整型和无符号整型:2字节,长整型:4字节,单精度浮点数:4字节,双精度浮点数:8字节,字符型:1字节。 >>详细
相关问题:什么是整型、长整型、单精度、 双精度、 ?怎么区分
答:你的书上应该都有说明了 给你看个例子 整型 就是整数 如1 2123 32 但是有最大数字限制 长整型、 也是整数 如22343242 最大数字限制比整型的大好多 具体书上的更清楚把 >>详细
- 评论列表(网友评论仅供网友表达个人看法,并不表明本站同意其观点或证实其描述)
-
