linux 下 float 和 double 精度计算差别
今天在根据需求写代码时候,偶尔发现linux 下 设置变量类型 float 和double 计算时,
得到的结果是不一样的。
要求: 设定值 = 传入值 * 10 * 122.88 /1000;
case: 设定值 = 1666*10*122.88/1000
= 2047.1808
设置成 float时,代码:
#include<stdio.h> #include <math.h> unsigned int fun(unsigned int sfn_threshold) { float f_sfn_threshold; printf("input parameter=%d\n",sfn_threshold); f_sfn_threshold = (float)sfn_threshold*1.2288; printf("f_sfn_threshold = %8lf\n",f_sfn_threshold); printf("%.8lf\n",fabs(f_sfn_threshold -(unsigned int)f_sfn_threshold )); return 0; } int main(int argc, char **argv) { unsigned int a=1666; unsigned int b=10000; unsigned int c=12888; unsigned int d=65535; fun(a); return 0; }
执行结果(与要得到的结果不一致):
[root@localhost test_float_compare]# gcc test_float_double_diff.c -o test_float_double_diff_1666 [root@localhost test_float_compare]# [root@localhost test_float_compare]# ./test_float_double_diff_1666 input parameter=1666 f_sfn_threshold = 2047.180786 0.18078613 [root@localhost test_float_compare]#
设置成 double时,代码:
#include<stdio.h> #include <math.h> unsigned int fun(unsigned int sfn_threshold) { double f_sfn_threshold; printf("input parameter=%d\n",sfn_threshold); f_sfn_threshold = (double)sfn_threshold*1.2288; printf("f_sfn_threshold = %8lf\n",f_sfn_threshold); printf("%.8lf\n",fabs(f_sfn_threshold -(unsigned int)f_sfn_threshold )); return 0; } int main(int argc, char **argv) { unsigned int a=1666; unsigned int b=10000; unsigned int c=12888; unsigned int d=65535; fun(a); return 0; }
执行结果:
[root@localhost test_float_compare]# [root@localhost test_float_compare]# ./test_float_double_diff_1666 input parameter=1666 f_sfn_threshold = 2047.180800 0.18080000 [root@localhost test_float_compare]#
郑重声明:本站内容如果来自互联网及其他传播媒体,其版权均属原媒体及文章作者所有。转载目的在于传递更多信息及用于网络分享,并不代表本站赞同其观点和对其真实性负责,也不构成任何其他建议。