4.4.1 Целочисленная арифметика

Хотя многие числовые вычисления нельзя выполнить с целыми числами, Octave поддерживает основные операции, такие как сложение и умножение целых чисел. Операторы +, -, .*, и ./ работают с целыми числами одного типа. Таким образом, можно сложить два 32-битных целых числа, но нельзя сложить 32-битное целое число и 16-битное целое число.

При выполнении целочисленной арифметики следует учитывать возможность переполнения и недополнения. Это происходит, когда результат вычисления не может быть представлен с использованием выбранного целочисленного типа. Например, невозможно представить результат 10 - 20 при использовании беззнаковых целых чисел. Octave гарантирует, что результатом целочисленных вычислений является целое число, наиболее близкое к истинному результату. Таким образом, результатом 10 - 20 при использовании беззнаковых целых чисел является ноль.

При выполнении целочисленного деления Octave округляет результат до ближайшего целого числа. Это отличается от большинства языков программирования, где результат часто округляется до ближайшего целого в меньшую сторону. Таким образом, результат int32 (5) ./ int32 (8) равен 1.

: idivide (x, y, op)

Целочисленное деление с различными правилами округления.

Стандартное поведение целочисленного деления, такое как a ./ b, заключается в округлении результата до ближайшего целого числа. Это не всегда желаемое поведение, и idivide позволяет выполнять целочисленное поэлементное деление с различным обработкой дробной части деления, определяемой флагом op. op — это строка с одним из значений:

"fix"

Вычислить a ./ b с дробной частью, округлённой к нулю.

"round"

Вычислить a ./ b с дробной частью, округлённой к ближайшему целому числу.

"floor"

Вычислить a ./ b с дробной частью, округлённой к отрицательной бесконечности.

"ceil"

Вычислить a ./ b с дробной частью, округлённой к положительной бесконечности.

Если op не указан, он по умолчанию равен "fix". Пример, демонстрирующий эти правила округления,

idivide (int8 ([-3, 3]), int8 (4), "fix")
  ⇒   0   0
idivide (int8 ([-3, 3]), int8 (4), "round")
  ⇒  -1   1
idivide (int8 ([-3, 3]), int8 (4), "floor")
  ⇒  -1   0
idivide (int8 ([-3, 3]), int8 (4), "ceil")
  ⇒   0   1

См. также: ldivide, rdivide.