快速解决 MySQL中与浮点比较有关的问题

欢迎您访问我爱IT技术网，今天小编为你分享的编程技术是：【快速解决 MySQL中与浮点比较有关的问题】，下面是详细的分享！

快速解决 MySQL中与浮点比较有关的问题

注意，下述部分主要与DOUBLE和FLOAT列相关，原因在于浮点数的不准确本质。MySQL使用64位十进制数值的精度执行DECIMAL操作，当处理DECIMAL列时，应能解决大多数常见的不准确问题。

浮点数有时会导致混淆，这是因为它们无法以准确值保存在计算机体系结构中。你在屏幕上所看到的值通常不是数值的准确值。对于FLOAT和DOUBLE列类型，情况就是如此。DECIMAL列能保存具有准确精度的值，这是因为它们是由字符串表示的。

在下面的示例中，介绍了使用DOUBLE时的问题：

以下为引用的内容： mysql> CREATE TABLE t1 (i INT, d1 DOUBLE, d2 DOUBLE); mysql> INSERT INTO t1 VALUES (1, 101.40, 21.40), (1, -80.00, 0.00), -> (2, 0.00, 0.00), (2, -13.20, 0.00), (2, 59.60, 46.40), -> (2, 30.40, 30.40), (3, 37.00, 7.40), (3, -29.60, 0.00), -> (4, 60.00, 15.40), (4, -10.60, 0.00), (4, -34.00, 0.00), -> (5, 33.00, 0.00), (5, -25.80, 0.00), (5, 0.00, 7.20), -> (6, 0.00, 0.00), (6, -51.40, 0.00);   mysql> SELECT i, SUM(d1) AS a, SUM(d2) AS b -> FROM t1 GROUP BY i HAVING a <> b;   +------+-------+------+ | i    | a     | b    | +------+-------+------+ |    1 |  21.4 | 21.4 | |    2 |  76.8 | 76.8 | |    3 |   7.4 |  7.4 | |    4 |  15.4 | 15.4 | |    5 |   7.2 |  7.2 | |    6 | -51.4 |    0 | +------+-------+------+

结果是正确的。尽管前5个记录看上去不应能进行比较测试（a和b的值看上去没有什么不同），但它们能进行比较，这是因为显示的数值间的差异在十分位左右，具体情况取决于计算机的体系结构。

如果列d1和d2定义为DECIMAL而不是DOUBLE，SELECT查询的结果仅包含1行，即上面显示的最后1行。

以上所分享的是关于快速解决 MySQL中与浮点比较有关的问题，下面是编辑为你推荐的有价值的用户互动：

　　相关问题：mysql的浮点型在什么情况下会损失精度，求大神详解...

　　答：谈谈个人理解，请带着怀疑和鉴别的角度去看待。 1 先理解下定点数 --定义： 指规定小数点位置固定不变。 --存储： * 在数据库或计算机中存储时，整数部分和小数部分分别使用一定的字节来存储（理解为分别用两部分字节来存储两个整数），小数点是... >>详细

　　相关问题：请教C语言浮点数输出问题。

　　答： 调试了一下发现这个，8.85705，和9.85705的精度都会丢失，所以要想得到你要的数据建议使用%.5f 为何浮点数可能丢失精度浮点十进制值通常没有完全相同的二进制表示形式。 这是 CPU 所采用的浮点数据表示形式的副作用。 为此，可能会经历一些精度... >>详细

　　相关问题：C语言中与0比较大小时经常出现1E-6，这是什么意思？

　　答：留一些误差，只要浮点数小于1e-6就认为是零，而不是==0，计算机表示零很难做到没有一点误差 >>详细