Spec-Zone.ru › MySQL 5.7

B.3.4.8 Проблемы с плавающей точкой

Числа с плавающей точкой иногда вызывают путаницу, поскольку они являются приближенными значениями, а не точными. Значение с плавающей точкой, как оно записано в операторе SQL, может не совпадать со значением, представленным внутри. Попытки рассматривать значения с плавающей точкой как точные при сравнении могут привести к проблемам. Они также зависят от платформы или реализации. Тип данных FLOAT и DOUBLE подвержены этим проблемам. Для столбцов типа DECIMAL MySQL выполняет операции с точностью до 65 десятичных знаков, что должно решить большинство распространённых проблем с неточностью.

Следующий пример использует DOUBLE, чтобы продемонстрировать, как вычисления, выполняемые с использованием операций с плавающей точкой, подвержены ошибкам.

mysql> CREATE TABLE t1 (i INT, d1 DOUBLE, d2 DOUBLE);
mysql> INSERT INTO t1 VALUES (1, 101.40, 21.40), (1, -80.00, 0.00),
    -> (2, 0.00, 0.00), (2, -13.20, 0.00), (2, 59.60, 46.40),
    -> (2, 30.40, 30.40), (3, 37.00, 7.40), (3, -29.60, 0.00),
    -> (4, 60.00, 15.40), (4, -10.60, 0.00), (4, -34.00, 0.00),
    -> (5, 33.00, 0.00), (5, -25.80, 0.00), (5, 0.00, 7.20),
    -> (6, 0.00, 0.00), (6, -51.40, 0.00);

mysql> SELECT i, SUM(d1) AS a, SUM(d2) AS b
    -> FROM t1 GROUP BY i HAVING a <> b;

+------+-------+------+
| i    | a     | b    |
+------+-------+------+
|    1 |  21.4 | 21.4 |
|    2 |  76.8 | 76.8 |
|    3 |   7.4 |  7.4 |
|    4 |  15.4 | 15.4 |
|    5 |   7.2 |  7.2 |
|    6 | -51.4 |    0 |
+------+-------+------+

Результат верный. Хотя первые пять записей, кажется, не должны удовлетворять сравнение (значения a и b, по-видимому, не отличаются), они могут отличаться, потому что разница между числами проявляется примерно в десятом десятичном знаке, в зависимости от таких факторов, как архитектура компьютера, версия или уровень оптимизации компилятора. Например, разные процессоры могут по-разному обрабатывать числа с плавающей точкой.

Если столбцы d1 и d2 были определены как DECIMAL, а не как DOUBLE, результат запроса SELECT содержал бы только одну строку — последнюю, показанную выше.

Правильный способ сравнения чисел с плавающей точкой — сначала определить приемлемую погрешность для различий между числами, а затем сравнить с этим значением. Например, если мы согласимся, что числа с плавающей точкой должны считаться одинаковыми, если они совпадают с точностью до одной десятитысячной (0.0001), сравнение должно быть написано так, чтобы находить различия, большие, чем значение допуска:

mysql> SELECT i, SUM(d1) AS a, SUM(d2) AS b FROM t1
    -> GROUP BY i HAVING ABS(a - b) > 0.0001;
+------+-------+------+
| i    | a     | b    |
+------+-------+------+
|    6 | -51.4 |    0 |
+------+-------+------+
1 row in set (0.00 sec)

И наоборот, чтобы получить строки, где числа одинаковы, тест должен находить различия в пределах допустимой погрешности:

mysql> SELECT i, SUM(d1) AS a, SUM(d2) AS b FROM t1
    -> GROUP BY i HAVING ABS(a - b) <= 0.0001;
+------+------+------+
| i    | a    | b    |
+------+------+------+
|    1 | 21.4 | 21.4 |
|    2 | 76.8 | 76.8 |
|    3 |  7.4 |  7.4 |
|    4 | 15.4 | 15.4 |
|    5 |  7.2 |  7.2 |
+------+------+------+
5 rows in set (0.03 sec)

Значения с плавающей точкой зависят от платформы или реализации. Предположим, что вы выполняете следующие операторы:

CREATE TABLE t1(c1 FLOAT(53,0), c2 FLOAT(53,0));
INSERT INTO t1 VALUES('1e+52','-1e+52');
SELECT * FROM t1;

На некоторых платформах оператор SELECT возвращает inf и -inf. На других — 0 и -0.

Следствием вышеизложенных проблем является то, что если вы попытаетесь создать копию, выгрузив содержимое таблицы с помощью mysqldump на исходном и перезагрузив файл дампа в копию, таблицы, содержащие столбцы с плавающей точкой, могут отличаться между двумя хостами.

© 2025 Oracle
Licensed under the GPLv2 License.
https://docs.oracle.com/cd/E17952_01/mysql-5.7-en/problems-with-float.html

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API