4.4.1 Целочисленная арифметика

Хотя многие числовые вычисления не могут быть выполнены в целых числах, Octave поддерживает основные операции, такие как сложение и умножение целых чисел. Операторы +, -, .*, и ./ работают с целыми числами одного типа. Таким образом, можно сложить два 32-битных целых числа, но нельзя сложить 32-битное целое число и 16-битное целое число.

При выполнении целочисленной арифметики следует учитывать возможность подпотока и переполнения. Это происходит, когда результат вычисления не может быть представлен с использованием выбранного целочисленного типа. Например, невозможно представить результат 10 - 20 при использовании беззнаковых целых чисел. Octave гарантирует, что результатом целочисленных вычислений является целое число, наиболее близкое к истинному результату. Таким образом, результатом 10 - 20 при использовании беззнаковых целых чисел является ноль.

При выполнении целочисленного деления Octave округляет результат до ближайшего целого числа. Это отличается от большинства языков программирования, где результат часто округляется до ближайшего целого числа вниз. Таким образом, результатом int32 (5) ./ int32 (8) является 1.

: C = idivide (A, B, op) ¶

Целочисленное деление с различными правилами округления.

Стандартное поведение целочисленного деления, такое как A ./ B, заключается в округлении результата до ближайшего целого числа. Это не всегда желаемое поведение, и idivide позволяет выполнять целочисленное поэлементное деление с различным обращением с дробной частью деления, как определено флагом op. op — это строка с одним из значений:

"fix"

Вычислить A ./ B с дробной частью, округлённой к нулю.

"round"

Вычислить A ./ B с дробной частью, округлённой к ближайшему целому числу.

"floor"

Вычислить A ./ B с дробной частью, округлённой к отрицательной бесконечности.

"ceil"

Вычислить A ./ B с дробной частью, округлённой к положительной бесконечности.

Если op не задан, по умолчанию используется "fix". Пример, демонстрирующий эти правила округления,

idivide (int8 ([-3, 3]), int8 (4), "fix")
  ⇒   0   0
idivide (int8 ([-3, 3]), int8 (4), "round")
  ⇒  -1   1
idivide (int8 ([-3, 3]), int8 (4), "floor")
  ⇒  -1   0
idivide (int8 ([-3, 3]), int8 (4), "ceil")
  ⇒   0   1

См. также: ceil, floor, fix, round, ldivide, rdivide.