15.4.8.3 Проблемы с точностью

OpenGL графические наборы инструментов ("qt" и "fltk") используют одинарную точность для рендеринга. Это ограничение особенно относится к графикам временных рядов по датам последовательности, как используется функциями datenum, datestr, datestruct, и datetick.

Последовательные даты кодируют отметки времени как количество дней, прошедших с года нулевого, где часы, минуты и секунды являются дробной частью. 31 декабря 1999 года последовательная дата имела значение 730485. Переменная двойной точности с этим целым значением позволяет получить разрешение дробной части в 1.2e-10, что соответствует примерно 5 микросекундам. Но с одинарной точностью разрешение уменьшается до примерно 0.06, что соответствует 45 минутам. Любая попытка построить данные с отметками времени с более высокой точностью приведет к искажению графика.

В качестве обходного решения можно использовать "gnuplot" графический набор инструментов или вычесть 2000 лет — т.е., datenum (2000, 0, 0) или 730485 — из значений времени. Из-за того, что структура календаря повторяется каждые 2000 лет, связь между годом, месяцем, днем месяца и днем недели останется неизменной, а метки и метки осей, созданные функцией datetick, останутся правильными. Только годы будут лишены цифры тысячелетия. Таким образом, "2020" будет отображаться как "20". Например:

# timestamps of 24 hours in one minute steps
t = datenum (2020, 1, 1):(1/1440):datenum (2020, 1, 2);

# some example time series data
x = -cos (2*pi*t) + rand (size (t)) / 10;

subplot (1, 2, 1);
plot (t, x);
datetick ("x");
xlabel ("serial date");
title ("problem");

subplot (1, 2, 2);
plot (t - 730485, x);
datetick ("x");
xlabel ("2000 years off");
title ("workaround");

Результат можно увидеть на рисунке 15.8.

Аналогично, другие данные могут быть преобразованы или масштабированы, чтобы обойти эту проблему.