时间:2021-05-19
在编写代码做测试时发现两个大数相乘结果不正确的问题,测试代码如下:
#include "stdafx.h"
#include<stdlib.h>
#include<time.h>
int _tmain(int argc, _TCHAR* argv[])
{
time_t temp1=1345172428000000;
time_t temp2=1345172428*1000000;
::system("pause");
return 0;
}
经过测试发现temp1与temp2并不相等。
但是修改为如下代码:
#include "stdafx.h"
#include<stdlib.h>
#include<time.h>
int _tmain(int argc, _TCHAR* argv[])
{
time_t temp1=1345172428000000;
time_t temp3=1345172428;
time_t temp4=1000000;
time_t temp2=temp3*temp4;
::system("pause");
return 0;
}
经过测试发现temp1与temp2并相等。
分析原因:
1345172428和1000000都是当做int型来处理的,他们相乘的结果也是当做int型,只是乘积会被强制转换成time_t,但是在求乘积的时候就已经溢出了,所以在转换成time_t也是错的。
结论:
在大数乘法时需要考虑乘积溢出问题。
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
在编写JavaScript的时候,发现两个数字相加返回的结果不正确,例如: vara=1; varb=2; varsum=a+b; document
命名空间是C++非常重要的概念,本文就以实例形式对其进行深入分析,具体内容如下:通常来说,在C++中,命名空间(namespace)的目的是为了防止名字冲突。每
在c++中:(1)register关键字无法在全局中定义变量,否则会被提示为不正确的存储类。(2)register关键字在局部作用域中声明时,可以用&操作符取地
大数,即超出语言所能表示的数字最大范围的数字,此时的数字只能用字符串来表示。那么如何实现两个大数相乘呢?我用JS实现了一下,代码如下:复制代码代码如下:cons
当连接MariaDB/MySQL时,输入的密码会与期望的正确密码比较,由于不正确的处理,会导致即便是memcmp()返回一个非零值,也会使MySQL认为两个密码