Выравнивание памяти

Цели выравнивания в Numpy

Существует три случая использования выравнивания памяти в numpy (начиная с версии 1.14):

1. Создание структурированных типов данных с выравниванием полей, как в C-структуре.
2. Ускорение операций копирования, используя присваивание uint вместо memcpy
3. Обеспечение безопасного выравнивания доступа для ufuncs/setitem/кода преобразования

Numpy использует два различных вида выравнивания для достижения этих целей: «истинное выравнивание» и «выравнивание по uint».

«Истинное» выравнивание относится к архитектурно-зависимому выравниванию эквивалентного типа C в C. Например, в системах x64 numpy.float64 эквивалентно double в C. В большинстве систем это имеет выравнивание 4 или 8 байт (и это можно контролировать в gcc с помощью опции malign-double). Переменная выровнена в памяти, если её смещение в памяти кратно её выравниванию. В некоторых системах (например, sparc) выравнивание памяти необходимо, в других оно ускоряет работу.

«Выравнивание по uint» зависит от размера типа данных. Оно определяется как «истинное выравнивание» uint, используемого кодом копирования numpy для копирования типа данных, или неопределённым/невыровненным, если нет эквивалентного uint. В настоящее время numpy использует uint8, uint16, uint32, uint64 и uint64 для копирования данных размером 1, 2, 4, 8, 16 байт соответственно, а все другие типы данных не могут быть выровнены по uint.

Например, в системе (типичная Linux x64 gcc), тип данных numpy complex64 реализован как struct { float real, imag; }. Это имеет «истинное» выравнивание 4 и «выравнивание по uint» 8 (равное истинному выравниванию uint64).

Некоторые случаи, когда выравнивание по uint и истинное выравнивание отличаются (по умолчанию gcc Linux):

тип архитектуры истинное-выравнивание uint-выравнивание —- —- ——– ——– x86_64 complex64 4 8 x86_64 float128 16 8 x86 float96 4 -

Переменные в Numpy, которые управляют и описывают выравнивание

Существует 4 соответствующих использования слова align в numpy:

• Атрибут dtype.alignment (descr->alignment в C). Он предназначен для отражения «истинного выравнивания» типа. Он имеет значения по умолчанию, зависящие от архитектуры, для всех типов данных, за исключением структурированных типов, созданных с помощью align=True, как описано ниже.
• Флаг ALIGNED ndarray, вычисляемый в IsAligned и проверяемый PyArray_ISALIGNED. Он вычисляется из dtype.alignment. Он устанавливается в True, если каждый элемент массива находится в месте памяти, соответствующем dtype.alignment, что имеет место, если указатель данных и все шаги массива кратны этому выравниванию.
• Ключевое слово align конструктора dtype, которое влияет только на структурированные массивы. Если смещения полей структуры не заданы вручную, numpy определяет смещения автоматически. В этом случае align=True дополняет структуру так, чтобы каждое поле было «истинно» выровнено в памяти, и устанавливает dtype.alignment в наибольшее из «истинных» выравниваний полей. Это похоже на то, что обычно делает C-структура. В противном случае, если смещения или размер элемента были заданы вручную, align=True просто проверяет, что все поля выровнены «истинно» и что общий размер элемента кратен наибольшему выравниванию поля. В любом случае dtype.isalignedstruct также устанавливается в True.
• IsUintAligned используется для определения, является ли ndarray «выровненным по uint», аналогично тому, как IsAligned проверяет истинное выравнивание.

Последствия выравнивания

Вот как вышеперечисленные переменные используются:

1. Создание выровненных структур: Для того чтобы знать, как сместить поле при align=True, numpy обращается к field.dtype.alignment. Это включает поля, которые являются вложенными структурированными массивами.
2. Ufuncs: Если флаг ALIGNED массива равен False, ufuncs будут буферировать/преобразовывать массив перед вычислением. Это необходимо, так как внутренние циклы ufunc обращаются к элементам напрямую, что может привести к сбоям в некоторых архитектурах, если элементы не выровнены истинно.
3. Функция getitem/setitem/copyswap: Подобно ufuncs, эти функции обычно имеют два пути кода. Если ALIGNED равен False, они будут использовать путь кода, который буферирует аргументы, чтобы они были истинно выровнены.
4. Код копирования с шагами: Здесь используется «выравнивание по uint». Если размер элемента массива равен 1, 2, 4, 8 или 16 байтам и массив выровнен по uint, то вместо этого numpy выполнит *(uintN*)dst) = *(uintN*)src) для соответствующего N. В противном случае numpy копирует, выполняя memcpy(dst, src, N).
5. Код Nditer: Поскольку он часто вызывает код копирования с шагами, он должен проверять «выравнивание по uint».
6. Код преобразования: Он проверяет «истинное» выравнивание, так как выполняет *dst = CASTFUNC(*src) при выравнивании. В противном случае он выполняет memmove(srcval, src); dstval = CASTFUNC(srcval); memmove(dst, dstval), где dstval/srcval выровнены.

Обратите внимание, что код копирования с шагами и код преобразования с шагами тесно связаны, поэтому все обрабатываемые ими массивы должны быть выровнены как по uint, так и по истинному выравниванию, даже если коду копирования необходим только выравнивание по uint, а коду преобразования — только истинное выравнивание. Если когда-либо произойдет большая переработка этого кода, было бы неплохо разрешить им использовать разные выравнивания.