浏览模式: 普通 | 列表
4月, 2005 | 1

浮点数的比较问题

[ 2005-04-08 12:43:42 | 作者: admin ]
浮点数不可以直接比较，否则会出现错误

a = Convert.ToSingle(1.01)
b = Convert.ToSingle(2.01-1)

如果直接比较，a和b是不相等的。

当我们需要判断两个浮点数据的结果大小的时候，需要把他们转换为内置类型
a2 = Convert.ToDecimal(a)
b2 = Convert.ToDecimal(b)

这个时候 a2 == b2

分类: C# | 永久链接 | 评论: 0 | 引用: 0 | 浏览: 2211
1