numpy.lib.Arrayterator
-
class numpy.lib.Arrayterator(var, buf_size=None)[source] -
Буферизованный итератор для больших массивов.
Arrayteratorсоздаёт буферизованный итератор для чтения больших массивов небольшими смежными блоками. Класс полезен для объектов, хранящихся в файловой системе. Он позволяет итерироваться по объекту *без* чтения всего в память; вместо этого небольшие блоки считываются и обрабатываются.Arrayteratorможет использоваться с любым объектом, поддерживающим многомерные срезы. Это включает массивы NumPy, но также и переменные из Scientific.IO.NetCDF или pynetcdf, например.Параметры: -
var : array_like -
Объект для итерирования.
-
buf_size : int, optional -
Размер буфера. Если
buf_sizeуказан, максимальное количество данных, которое будет считано в память, составляетbuf_sizeэлементов. По умолчанию None, что будет читать столько элементов, сколько возможно в память.
См. также
-
ndenumerate - Многомерный итератор массивов.
-
flatiter - Плоский итератор массивов.
-
memmap - Создание отображения в памяти на массив, хранящийся в двоичном файле на диске.
Примечания
Алгоритм работает, сначала определяя «текущую размерность», по которой будут извлекаться блоки. При заданном массиве измерений
(d1, d2, ..., dn), например, еслиbuf_sizeменьшеd1, будет использоваться первая размерность. Если, с другой стороны,d1 < buf_size < d1*d2, будет использоваться вторая размерность, и так далее. Блоки извлекаются по этой размерности, а когда возвращается последний блок, процесс продолжается от следующей размерности, пока все элементы не будут прочитаны.Примеры
>>> a = np.arange(3 * 4 * 5 * 6).reshape(3, 4, 5, 6) >>> a_itor = np.lib.Arrayterator(a, 2) >>> a_itor.shape (3, 4, 5, 6)
Теперь мы можем итерироваться по
a_itor, и он будет возвращать массивы размером два. Посколькуbuf_sizeбыло меньше любой размерности, сначала будет итерироваться по первой размерности:>>> for subarr in a_itor: ... if not subarr.all(): ... print(subarr, subarr.shape) # doctest: +SKIP >>> # [[[[0 1]]]] (1, 1, 1, 2)
Атрибуты: -
© 2005–2019 NumPy Developers
Licensed under the 3-clause BSD License.
https://docs.scipy.org/doc/numpy-1.17.0/reference/generated/numpy.lib.Arrayterator.html