Spec-Zone .ru
спецификации, руководства, описания, API
|
Контекст математики точности для операций точного значения включает типы данных точного значения (DECIMAL
и целочисленные типы) и точное значение числовые литералы. Типы данных приближенного значения и числовые
литералы обрабатываются как числа с плавающей точкой.
У точного значения числовые литералы есть целая часть или дробная часть, или оба. Они могут быть подписаны.
Примеры: 1
, .2
, 3.4
,
-5
, -6.78
, +9.10
.
Приближенное значение числовые литералы представляется в экспоненциальном представлении с мантиссой и
экспонентой. Или или обе части могут быть подписаны. Примеры: 1.2E3
, 1.2E-3
, -1.2E3
, -1.2E-3
.
Два числа, которые выглядят подобными, могут быть обработаны по-другому. Например, 2.34
точное значение (фиксированная точка) число, тогда как 2.34E0
приближенное значение число (с плавающей точкой).
DECIMAL
тип данных является типом фиксированной точки, и вычисления точны. В MySQL, DECIMAL
у типа есть несколько синонимов: NUMERIC
, DEC
, FIXED
. Целочисленные типы также являются типами точного значения.
FLOAT
и DOUBLE
типы данных являются типами с плавающей точкой, и вычисления
приблизительны. В MySQL, типы, которые синонимичны с FLOAT
или DOUBLE
DOUBLE PRECISION
и REAL
.