浮点数的比较问题

[ 2005-04-08 12:43:42 | 作者: admin ]
字号: | |
浮点数不可以直接比较,否则会出现错误

a = Convert.ToSingle(1.01)
b = Convert.ToSingle(2.01-1)

如果直接比较,a和b是不相等的。

当我们需要判断两个浮点数据的结果大小的时候,需要把他们转换为内置类型
a2 = Convert.ToDecimal(a)
b2 = Convert.ToDecimal(b)

这个时候 a2 == b2

评论Feed 评论Feed: http://blog.xg98.com/feed.asp?q=comment&id=52

这篇日志没有评论。

此日志不可发表评论。