.net 带小数减法得到的结果出错，小数位溢出很多。
浏览数：26 /
时间：2015年06月09日
-
现象：64 - 98.01的正确结果为34.01，但在.net中运算的结果是34.010000000000005
?64 - 98.01
-34.010000000000005
?64.0 - 98.01
-34.010000000000005
-
原因：98.01的类型是DOUBLE，浮点数的存储方式和其它不一样，它使用基数和指数两部分存储，因此计算时会出现误差
-
解决：运算时把Double类型转换成Decimal类型
?CDec(64)-CDec(98.01)
-34.01D
?64d - 98.01d
-34.01D
郑重声明：本站内容如果来自互联网及其他传播媒体，其版权均属原媒体及文章作者所有。转载目的在于传递更多信息及用于网络分享，并不代表本站赞同其观点和对其真实性负责，也不构成任何其他建议。
