15.4.8.3 Проблемы с точностью

Графические наборы инструментов OpenGL ("qt" и "fltk") используют одинарную точность для отрисовки. Это ограничение особенно актуально для графиков временных рядов по отношению к датам последовательности, используемым функциями datenum, datestr, datestruct, и datetick.

Даты последовательности кодируют отметки времени как количество дней, прошедших с года нулевого, с часами, минутами и секундами как дробную часть. 31 декабря 1999 года представление даты последовательности составляло 730485. Переменная двойной точности с этой целой частью позволяет разрешение дробной части 1.2e-10, что соответствует примерно 5 микросекундам. Но с одинарной точностью разрешение уменьшается до примерно 0.06, что соответствует 45 минутам. Любая попытка построить данные с отметками времени с более высокой точностью приведет к искажению графика.

В качестве обходного решения можно использовать графический набор инструментов "gnuplot" или вычесть 2000 лет — т.е., datenum (2000, 0, 0) или 730485 — из значений времени. Благодаря тому, что структура календаря повторяется каждые 2000 лет, связь между годом, месяцем, днем месяца и днем недели останется неизменной, а метки и подписи меток, созданные функцией datetick, останутся правильными. Только годы будут лишены цифры тысячелетия. Таким образом, "2020" будет напечатано как "20". Например:

# timestamps of 24 hours in one minute steps
t = datenum (2020, 1, 1):(1/1440):datenum (2020, 1, 2);

# some example time series data
x = -cos (2*pi*t) + rand (size (t)) / 10;

subplot (1, 2, 1);
plot (t, x);
datetick ("x");
xlabel ("serial date");
title ("problem");

subplot (1, 2, 2);
plot (t - 730485, x);
datetick ("x");
xlabel ("2000 years off");
title ("workaround");

Результат можно увидеть на рисунке 15.8.

Аналогично, другие данные могут быть преобразованы или перемасштабированы, чтобы обойти эту проблему.