Инструмент импорта данных LayerMapping
Класс LayerMapping предоставляет способ сопоставления содержимого файлов векторных пространственных данных (например, shapefiles) с моделями GeoDjango.
Этот инструмент возник из личных потребностей автора в устранении повторения кода, связанного с извлечением геометрий и полей из векторного слоя, преобразованием в другую систему координат (например, WGS84) и последующей вставкой в модель GeoDjango.
Примечание
Использование класса LayerMapping требует GDAL.
Предупреждение
Источники пространственных данных, такие как shapefiles, могут быть очень большими. Если вы обнаружите, что LayerMapping использует слишком много памяти, установите значение DEBUG в False в ваших настройках. Когда DEBUG установлено в True, Django автоматически регистрирует каждый запрос SQL – а когда SQL-запросы содержат геометрии, это может потреблять больше памяти, чем обычно.
Пример
-
Вам нужен источник данных, поддерживаемый GDAL, например, shapefile (здесь мы используем простой многоугольный shapefile,
test_poly.shp, с тремя объектами):>>> from django.contrib.gis.gdal import DataSource >>> ds = DataSource('test_poly.shp') >>> layer = ds[0] >>> print(layer.fields) # Exploring the fields in the layer, we only want the 'str' field. ['float', 'int', 'str'] >>> print(len(layer)) # getting the number of features in the layer (should be 3) 3 >>> print(layer.geom_type) # Should be 'Polygon' Polygon >>> print(layer.srs) # WGS84 in WKT GEOGCS["GCS_WGS_1984", DATUM["WGS_1984", SPHEROID["WGS_1984",6378137,298.257223563]], PRIMEM["Greenwich",0], UNIT["Degree",0.017453292519943295]] -
Теперь мы определяем соответствующую модель Django (убедитесь, что используете
migrate):from django.contrib.gis.db import models class TestGeo(models.Model): name = models.CharField(max_length=25) # corresponds to the 'str' field poly = models.PolygonField(srid=4269) # we want our model in a different SRID def __str__(self): return 'Name: %s' % self.name -
Используйте
LayerMapping, чтобы извлечь все объекты и поместить их в базу данных:>>> from django.contrib.gis.utils import LayerMapping >>> from geoapp.models import TestGeo >>> mapping = {'name' : 'str', # The 'name' model field maps to the 'str' layer field. 'poly' : 'POLYGON', # For geometry fields use OGC name. } # The mapping is a dictionary >>> lm = LayerMapping(TestGeo, 'test_poly.shp', mapping) >>> lm.save(verbose=True) # Save the layermap, imports the data. Saved: Name: 1 Saved: Name: 2 Saved: Name: 3
Здесь LayerMapping преобразовал три геометрии из shapefile в их исходной системе пространственных ссылок (WGS84) в систему пространственных ссылок модели GeoDjango (NAD83). Если для слоя не определена система пространственных ссылок, используйте ключевое слово source_srs с объектом SpatialReference для указания его.
LayerMapping API
-
class LayerMapping(model, data_source, mapping, layer=0, source_srs=None, encoding=None, transaction_mode='commit_on_success', transform=True, unique=True, using='default')
Ниже приведены аргументы и ключевые слова, которые могут быть использованы при создании объектов LayerMapping.
| Аргумент | Описание |
|---|---|
model | Географическая модель, а не экземпляр. |
data_source | Путь к файлу источника данных, поддерживаемому OGR (например, shapefile). Также принимает экземпляры django.contrib.gis.gdal.DataSource. |
mapping | Словарь: ключи — строки, соответствующие полю модели, значения — строки, соответствующие именам полей OGR-объекта, или, если поле модели является географическим, оно должно соответствовать типу геометрии OGR, например, 'POINT', 'LINESTRING', 'POLYGON'. |
| Ключевые аргументы | |
|---|---|
layer | Индекс слоя для использования из источника данных (по умолчанию 0) |
source_srs | Используйте это для ручного указания исходной системы пространственных ссылок (например, некоторые shapefiles не имеют файла '.prj'). Принимаются целые SRID, WKT или PROJ.4 строки, а также объекты django.contrib.gis.gdal.SpatialReference. |
encoding | Указывает кодировку набора символов строк в источнике данных OGR. Например, 'latin-1', 'utf-8', и 'cp437' — все являются допустимыми параметрами кодировки. |
transaction_mode | Может быть 'commit_on_success' (по умолчанию) или 'autocommit'. |
transform | Установив это значение в False, вы отключите преобразования координат. Другими словами, геометрии будут вставлены в базу данных без изменений из их первоначального состояния в источнике данных. |
unique | Установив это значение в имя или кортеж имен из данной модели, вы создадите модели, уникальные только для данного имени(ей). Геометрии каждого объекта будут добавлены в коллекцию, связанную с уникальной моделью. Вынуждает режим транзакции быть 'autocommit'. |
using | Устанавливает базу данных, используемую при импорте пространственных данных. По умолчанию 'default'. |
save() Ключевые аргументы
-
LayerMapping.save(verbose=False, fid_range=False, step=False, progress=False, silent=False, stream=sys.stdout, strict=False)
Метод save() также принимает ключевые слова. Эти ключевые слова используются для управления выводом журнала, обработкой ошибок и импортом определенных диапазонов объектов.
| Ключевые аргументы сохранения | Описание |
|---|---|
fid_range | Может быть установлен со слайсом или кортежем ID объекта (начало, конец) для отображения из источника данных. Другими словами, это ключевое слово позволяет пользователю выборочно импортировать подмножество диапазонов объектов в источнике географических данных. |
progress | При установке этого ключевого слова будут выведены сведения о состоянии, указывающие количество обработанных и успешно сохраненных объектов. По умолчанию сведения о ходе работы будут выводиться каждые 1000 обработанных объектов, но это значение по умолчанию можно изменить, установив это ключевое слово со значением целого числа для желаемого интервала. |
silent | По умолчанию уведомления об ошибках, которые не являются фатальными, выводятся в sys.stdout, но это ключевое слово можно установить для отключения этих уведомлений. |
step | При установке со значением целого числа транзакции будут происходить через каждый интервал шагов. Например, если step=1000, коммит произойдет после 1000-го объекта, 2000-го объекта и т.д. |
stream | Сведения о состоянии будут записаны в этот дескриптор файла. По умолчанию используется sys.stdout, но поддерживаются любые объекты с методом write. |
strict | Выполнение сопоставления модели прекратится при первой ошибке. Поведение по умолчанию (False) — продолжить попытку. |
verbose | Если установлено, то будет выводиться информация после каждого выполнения сохранения модели в базе данных. |
Устранение неполадок
Недостаточно оперативной памяти
Как отмечается в предупреждении в начале этого раздела, Django хранит все запросы SQL при DEBUG=True. Установите DEBUG=False в ваших настройках, и это должно остановить избыточное использование памяти при выполнении скриптов LayerMapping.
MySQL: ошибка max_allowed_packet
Если при использовании LayerMapping и MySQL вы столкнулись со следующей ошибкой:
OperationalError: (1153, "Got a packet bigger than 'max_allowed_packet' bytes")
Тогда решение заключается в увеличении значения настройки max_allowed_packet в вашей конфигурации MySQL. Например, значение по умолчанию может быть низким, например, один мегабайт — это значение можно изменить в файле конфигурации MySQL (my.cnf) в разделе [mysqld]:
max_allowed_packet = 10M
© Django Software Foundation and individual contributors
Licensed under the BSD License.
https://docs.djangoproject.com/en/3.0/ref/contrib/gis/layermapping/