numpy.lib.Arrayterator
-
class numpy.lib.Arrayterator(var, buf_size=None)[source] -
Буферизованный итератор для больших массивов.
Arrayteratorсоздаёт буферизованный итератор для чтения больших массивов небольшими смежными блоками. Класс полезен для объектов, хранящихся в файловой системе. Он позволяет итерироваться по объекту *без* чтения всего в память; вместо этого считываются и обрабатываются небольшие блоки.Arrayteratorможет быть использован с любым объектом, поддерживающим многомерные срезы. Это включает массивы NumPy, но также и переменные из Scientific.IO.NetCDF или pynetcdf, например.Параметры: var : array_like
Объект, по которому нужно выполнить итерацию.
buf_size : int, необязательно
Размер буфера. Если
buf_sizeуказан, максимальный объём данных, который будет загружен в память, составляетbuf_sizeэлементов. По умолчанию None, что означает чтение максимального количества элементов в память.См. также
-
ndenumerate - Многомерный итератор массива.
-
flatiter - Плоский итератор массива.
-
memmap - Создание отображения в памяти на массив, хранящийся в двоичном файле на диске.
Примечания
Алгоритм работает, сначала определив «рабочий размер», вдоль которого будут извлекаться блоки. Учитывая массив размерностей
(d1, d2, ..., dn), например, еслиbuf_sizeменьшеd1, будет использоваться первая размерность. Если, с другой стороны,d1 < buf_size < d1*d2, будет использоваться вторая размерность и так далее. Блоки извлекаются вдоль этой размерности, и когда возвращается последний блок, процесс продолжается с следующей размерностью, пока все элементы не будут считаны.Примеры
>>> a = np.arange(3 * 4 * 5 * 6).reshape(3, 4, 5, 6) >>> a_itor = np.lib.Arrayterator(a, 2) >>> a_itor.shape (3, 4, 5, 6)
Теперь мы можем итерироваться по
a_itor, и он будет возвращать массивы размера два. Посколькуbuf_sizeбыло меньше любой размерности, сначала будет итерироваться по первой размерности:>>> for subarr in a_itor: ... if not subarr.all(): ... print(subarr, subarr.shape) ... [[[[0 1]]]] (1, 1, 1, 2)
Атрибуты
shapeФорма массива, по которому выполняется итерация. flat1-D плоский итератор для объектов Arrayterator. var buf_size start stop step -
© 2005–2019 NumPy Developers
Licensed under the 3-clause BSD License.
https://docs.scipy.org/doc/numpy-1.14.5/reference/generated/numpy.lib.Arrayterator.html