时间:2021-05-20
1、背景
对浮点数保存指定位小数。比如, 1.123456. 要保存1位小数,,调用方法后, 保存的结果为: 1.1。 再比如,1.98765, 保存2位小数的结果为: 2.00.
2、 解决方案
A、添加头文件
#include <sstream> #include <iomanip>B、添加命名空间
using namespace std;C、添加函数
/************************************************************************/ /* 函数名:round /* 函数功能:数据精度计算函数 /* 函数参数:float src:待求精度数 int bits:精度(0表示保留小数点后0位小数,1表示保留1位小数,2:表示保留2位小数) /* 函数返回值:精度求取结果 /* Author: Lee /************************************************************************/ float round(float src, int bits);函数实现
float CDemo1Dlg::round(float src, int bits) { stringstream ss; ss << fixed << setprecision(bits) << f; ss >> f; return f; }D、调用方式
CString str2 = L"99.054"; float f2 = (float)_wtof(str2); f2 *= 10; f2 = this->round(f2, 2);E 、注意
比如, 1.05, double在计算机中表示为 1.0499999997, float表示为1.0500000003, 但其实际都是与1.05相等的。
round方方式对处理的位数为5的情况有例外,比如: 1.05, 处理的结果 可能为1.0499999997。 这里写的是float, 你可以换做其他的类型。自己多测几次就明白了
总结
以上所述是小编给大家介绍的C++数据精度问题的解决方案(对浮点数保存指定位小数),希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对网站的支持!
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
1、背景对浮点数保存指定位小数。比如,1.123456.要保存1位小数,,调用方法后,保存的结果为:1.1。再比如,1.98765,保存2位小数的结果为:2.0
1.浮点数的介绍float(浮点型)是Python基本数据类型中的一种,Python的浮点数类似数学中的小数和C语言中的double类型;2.浮点型的运算浮点数
上节课简单介绍了浮点数。计算机程序中的浮点数分为单精度浮点数和双精度浮点数。单精度和双精度精确的范围不一样。计算机里的最基本的存储单位用位(bit)来表示。bi
vs2015计算机运算中,难免要用到浮点数的计算,浮点数有其计算的精度,怎么在C#中提高数据精度呢?小下面我们就来看看详细的教程。软件名称:VisualStud
本文分为三个部分JS数字精度丢失的一些典型问题JS数字精度丢失的原因解决方案(一个对象+一个函数)一、JS数字精度丢失的一些典型问题1.两个简单的浮点数相加0.