时间:2021-05-26
本文实例分析了一个JS长整型精度问题。分享给大家供大家参考。具体分析如下:
问题描述:
后台有一个脚本功能,可编写脚本动态调用Java代码
复制代码 代码如下:importClass(com.ztgame.center.controller.api,P360ApiController);
var roleId = 10214734953631045;
p360ApiController.notice(roleId, 4);
脚本执行成功,但运行结果与设定不一样,此人没有收到邮件
查看日志 recharge award has been sent. roleId=10214734953631044;
这角色ID数字少1,这....
问题分析:
应该是JS精度问题,
精度
整数(不使用小数点或指数计数法)最多为 15 位。
小数的最大位数是 17,但是浮点运算并不总是 100% 准确:
修改脚本
复制代码 代码如下:var roleId = 10214734953631045;
var output = roleId;
输出:
1.0214734953631044E16;
这不是JavaScript的错,也不是Java的错,上面转成Long 确实是 roleId=10214734953631044;
可不可以那样呢?
javascript控制台输入的都是字符串,然后调用java里的Integer.valueOf或者Long.valueOf转换呢?
解决方案:
编写一个通用的转化方法 目的把角色ID用字符串传到JavaScriptEngine
复制代码 代码如下:importClass(com.ztgame.common.util.StringKit);
importClass(com.ztgame.center.controller.api,P360ApiController);
申明为字符串
复制代码 代码如下:var roleId = "10214734953631045";
这样JavaScriptEngine拿到的 就是字符串了 其实工作就是Java去处理了
复制代码 代码如下:p360ApiController.notice(StringKit.parseLong(roleId), 4);
执行成功,先就这样用吧~
希望本文所述对大家的javascript程序设计有所帮助。
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
数据类型的有Integer(整型)、Long(长整型)、Single(单精度浮点型)、Double(双精度浮点型)和Currency(货币型)。计算机中,以位(
本次分析基于CPython解释器,python3.x版本在python2时代,整型有int类型和long长整型,长整型不存在溢出问题,即可以存放任意大小的整数。
shortint短整型2个字节值范围-32768~32767long长整型4个字节值范围-2147483648~2147483647float单精度4个字节值范
本文实例讲述了Python整型运算之布尔型、标准整型、长整型操作。分享给大家供大家参考,具体如下:#coding=utf8defintegerType():''
本文以实例形式讲述了Java基于高精度整型实现fibonacci数列的方法,分享给大家供大家参考之用。具体方法如下:packagecom.java.learni