4.4.1 Целочисленная арифметика ¶

Хотя многие числовые вычисления не могут быть выполнены с целыми числами, Octave поддерживает базовые операции, такие как сложение и умножение целых чисел. Операторы +, -, .*, и ./ работают с целыми числами одного типа. Таким образом, можно сложить два 32-битных целых числа, но нельзя сложить 32-битное целое число и 16-битное целое число.

При выполнении целочисленной арифметики следует учитывать возможность подпотока и переполнения. Это происходит, когда результат вычисления не может быть представлен с помощью выбранного целочисленного типа. Например, невозможно представить результат 10 - 20 при использовании беззнаковых целых чисел. Octave гарантирует, что результат целочисленных вычислений является целым числом, наиболее близким к истинному результату. Таким образом, результат 10 - 20 при использовании беззнаковых целых чисел равен нулю.

При выполнении целочисленного деления Octave округляет результат до ближайшего целого числа. Это отличается от большинства языков программирования, где результат часто округляется до ближайшего целого числа. Таким образом, результат int32 (5) ./ int32 (8) равен 1.

: C = idivide (A, B, op) ¶

Целочисленное деление с различными правилами округления.

Стандартное поведение целочисленного деления, такое как A ./ B, заключается в округлении результата до ближайшего целого числа. Это не всегда желаемое поведение, и idivide позволяет выполнять целочисленное поэлементное деление с различным обработкой дробной части деления, как определено флагом op. op - это строка с одним из значений:

"fix"

Вычислить A ./ B с дробной частью, округлённой к нулю.

"round"

Вычислить A ./ B с дробной частью, округлённой к ближайшему целому числу.

"floor"

Вычислить A ./ B с дробной частью, округлённой к отрицательной бесконечности.

"ceil"

Вычислить A ./ B с дробной частью, округлённой к положительной бесконечности.

Если op не указан, он по умолчанию равен "fix". Пример, демонстрирующий эти правила округления,

idivide (int8 ([-3, 3]), int8 (4), "fix")
  ⇒   0   0
idivide (int8 ([-3, 3]), int8 (4), "round")
  ⇒  -1   1
idivide (int8 ([-3, 3]), int8 (4), "floor")
  ⇒  -1   0
idivide (int8 ([-3, 3]), int8 (4), "ceil")
  ⇒   0   1

См. также: ceil, floor, fix, round, ldivide, rdivide.