浮点数的比较问题
[ 2005-04-08 12:43:42 | 作者: admin ]
浮点数不可以直接比较,否则会出现错误
a = Convert.ToSingle(1.01)
b = Convert.ToSingle(2.01-1)
如果直接比较,a和b是不相等的。
当我们需要判断两个浮点数据的结果大小的时候,需要把他们转换为内置类型
a2 = Convert.ToDecimal(a)
b2 = Convert.ToDecimal(b)
这个时候 a2 == b2
评论Feed: http://blog.xg98.com/feed.asp?q=comment&id=52
a = Convert.ToSingle(1.01)
b = Convert.ToSingle(2.01-1)
如果直接比较,a和b是不相等的。
当我们需要判断两个浮点数据的结果大小的时候,需要把他们转换为内置类型
a2 = Convert.ToDecimal(a)
b2 = Convert.ToDecimal(b)
这个时候 a2 == b2

这篇日志没有评论。
此日志不可发表评论。