4.4.1 Целочисленные арифметические операции

Хотя многие числовые вычисления не могут выполняться с целыми числами, Octave поддерживает базовые операции, такие как сложение и умножение на целых числах. Операторы +, -, .*, и ./ работают с целыми числами одного типа. Таким образом, можно сложить два 32-битных целых числа, но нельзя сложить 32-битное целое число и 16-битное целое число.

При выполнении целочисленной арифметики следует учитывать возможность переполнения и потери точности. Это происходит, когда результат вычисления не может быть представлен выбранным типом целых чисел. Например, результат 10 - 20 не может быть представлен при использовании беззнаковых целых чисел. Octave гарантирует, что результатом целочисленных вычислений является целое число, наиболее близкое к истинному результату. Таким образом, результатом 10 - 20 при использовании беззнаковых целых чисел является ноль.

При выполнении целочисленного деления Octave округляет результат до ближайшего целого числа. Это отличается от большинства языков программирования, где результат часто округляется до ближайшего целого числа в меньшую сторону. Таким образом, результат int32 (5) ./ int32 (8) равен 1.

: idivide (x, y, op) ¶

Целочисленное деление с различными правилами округления.

Стандартное поведение целочисленного деления, такое как a ./ b, заключается в округлении результата до ближайшего целого числа. Это не всегда желаемое поведение, и idivide позволяет выполнять целочисленное поэлементное деление с различной обработкой дробной части деления, определяемой флагом op. op — это строка с одним из значений:

"fix"

Вычислить a ./ b с округлением дробной части к нулю.

"round"

Вычислить a ./ b с округлением дробной части к ближайшему целому числу.

"floor"

Вычислить a ./ b с округлением дробной части к отрицательной бесконечности.

"ceil"

Вычислить a ./ b с округлением дробной части к положительной бесконечности.

Если op не задан, по умолчанию используется значение "fix". Пример, демонстрирующий эти правила округления:

idivide (int8 ([-3, 3]), int8 (4), "fix")
  ⇒   0   0
idivide (int8 ([-3, 3]), int8 (4), "round")
  ⇒  -1   1
idivide (int8 ([-3, 3]), int8 (4), "floor")
  ⇒  -1   0
idivide (int8 ([-3, 3]), int8 (4), "ceil")
  ⇒   0   1

См. также: ldivide, rdivide.