MySQL中与浮点比较有关的问题

日期： 2009-09-17 来源：TechTarget中国

　　注意，下述部分主要与DOUBLE和FLOAT列相关，原因在于浮点数的不准确本质。MySQL使用64位十进制数值的精度执行DECIMAL操作，当处理DECIMAL列时，应能解决大多数常见的不准确问题。

　　浮点数有时会导致混淆，这是因为它们无法以准确值保存在计算机体系结构中。你在屏幕上所看到的值通常不是数值的准确值。对于FLOAT和DOUBLE列类型，情况就是如此。DECIMAL列能保存具有准确精度的值，这是因为它们是由字符串表示的。

　　在下面的示例中，介绍了使用DOUBLE时的问题：

　　mysql> CREATE TABLE t1 (i INT, d1 DOUBLE, d2 DOUBLE);
　　mysql> INSERT INTO t1 VALUES (1, 101.40, 21.40), (1, -80.00, 0.00),
　　-> (2, 0.00, 0.00), (2, -13.20, 0.00), (2, 59.60, 46.40),
　　-> (2, 30.40, 30.40), (3, 37.00, 7.40), (3, -29.60, 0.00),
　　-> (4, 60.00, 15.40), (4, -10.60, 0.00), (4, -34.00, 0.00),
　　-> (5, 33.00, 0.00), (5, -25.80, 0.00), (5, 0.00, 7.20),
　　-> (6, 0.00, 0.00), (6, -51.40, 0.00);
　　mysql> SELECT i, SUM(d1) AS a, SUM(d2) AS b
　　-> FROM t1 GROUP BY i HAVING a <> b;
　　+——+——-+——+
　　| i | a | b |
　　+——+——-+——+
　　| 1 | 21.4 | 21.4 |
　　| 2 | 76.8 | 76.8 |
　　| 3 | 7.4 | 7.4 |
　　| 4 | 15.4 | 15.4 |
　　| 5 | 7.2 | 7.2 |
　　| 6 | -51.4 | 0 |
　　+——+——-+——+

　　结果是正确的。尽管前5个记录看上去不应能进行比较测试(a和b的值看上去没有什么不同)，但它们能进行比较，这是因为显示的数值间的差异在十分位左右，具体情况取决于计算机的体系结构。

　　如果列d1和d2定义为DECIMAL而不是DOUBLE，SELECT查询的结果仅包含1行，即上面显示的最后1行。

我们一直都在努力坚持原创.......请不要一声不吭，就悄悄拿走。

我原创，你原创，我们的内容世界才会更加精彩！

【所有原创内容版权均属TechTarget，欢迎大家转发分享。但未经授权，严禁任何媒体（平面媒体、网络媒体、自媒体等）以及微信公众号复制、转载、摘编或以其他方式进行使用。】

微信公众号

TechTarget微信公众号二维码

TechTarget

官方微博

TechTarget中国官方微博二维码

TechTarget中国

电子邮件地址不会被公开。 必填项已用*标注

敬请读者发表评论，本站保留删除与本文无关和不雅评论的权力。

相关推荐