解决了个困扰了2天的问题,定点运算问题

时间：2021-05-02

分母变小了，相当于左移了

复制代码 代码如下:

a=1-b/c;
|b|<pow(2,23)
|c|=pow(2,26)

|a|<1

在运算个过程中，需要把该运算转换成定点运算。
想了2天，都没有想出怎么可以保证a的精度，因为a可能很小，如果简单的

复制代码 代码如下: a<<=8;

是无法保证a的精度的。

今天快要下班时，突然有灵机一动：

复制代码 代码如下: c>>=6;
b<<=8;
a=1<<14-b/c; //相当于 a<<14，保证了a的精度

分子不能左移太多位，分母右移，解决问题了。
发散思维说起来很容易，做起来不容易呀！

以上就是本文的全部内容，希望能给大家一个参考，也希望大家多多支持服务器之家。

声明：本页内容来源网络，仅供用户参考；我单位不保证亦不表示资料全面及准确无误，也不保证亦不表示这些资料为最新信息，如因任何原因，本网内容或者用户因倚赖本网内容造成任何损失或损害，我单位将不会负任何法律责任。如涉及版权问题，请提交至online#300.cn邮箱联系删除。

相关文章