4.4.1 Целочисленная арифметика

Хотя многие числовые вычисления нельзя выполнять с целыми числами, Octave поддерживает основные операции, такие как сложение и умножение целых чисел. Операторы +, -, .* и ./ работают с целыми числами одного типа. Поэтому можно сложить два 32-разрядных целых числа, но нельзя сложить 32-разрядное и 16-разрядное целые числа.

При выполнении целочисленной арифметики следует учитывать возможность потери значимости и переполнения. Это происходит, когда результат вычисления нельзя представить с помощью выбранного целочисленного типа. Например, результат 10 - 20 невозможно представить с помощью беззнаковых целых чисел. Octave гарантирует, что результат целочисленных вычислений будет целым числом, ближайшим к истинному результату. Поэтому результат 10 - 20 при использовании беззнаковых целых чисел равен нулю.

При целочисленном делении Octave округляет результат до ближайшего целого числа. Это отличается от поведения большинства языков программирования, в которых результат часто округляется вниз до ближайшего целого числа. Поэтому результат int32 (5) ./ int32 (8) равен 1.

: C = idivide (A, B, op)

Целочисленное деление с различными правилами округления.

Стандартное поведение при целочисленном делении, например A ./ B, — округление результата до ближайшего целого числа. Это не всегда желательно, и idivide позволяет выполнять поэлементное целочисленное деление с различной обработкой дробной части частного, задаваемой флагом op. op — это строка со одним из следующих значений:

"fix"

Вычислить A ./ B, округлив дробную часть к нулю.

"round"

Вычислить A ./ B, округлив дробную часть до ближайшего целого числа.

"floor"

Вычислить A ./ B, округлив дробную часть к минус бесконечности.

"ceil"

Вычислить A ./ B, округлив дробную часть к плюс бесконечности.

Если op не задан, по умолчанию используется "fix". Пример, демонстрирующий эти правила округления:

idivide (int8 ([-3, 3]), int8 (4), "fix")
  ⇒   0   0
idivide (int8 ([-3, 3]), int8 (4), "round")
  ⇒  -1   1
idivide (int8 ([-3, 3]), int8 (4), "floor")
  ⇒  -1   0
idivide (int8 ([-3, 3]), int8 (4), "ceil")
  ⇒   0   1

См. также: ceil, floor, fix, round, ldivide, rdivide.