Spec-Zone.ru › TensorFlow

tf.keras.dtype_policies.QuantizedDTypePolicy

Политика типов данных для слоя Keras.

Наследует: DTypePolicy

tf.keras.dtype_policies.QuantizedDTypePolicy(
    name
)

Политика типов данных определяет типы данных вычислений и переменных слоя. У каждого слоя есть политика. Политики можно передавать в аргумент dtype конструктора слоя или задать глобальную политику с помощью keras.config.set_dtype_policy.

Аргументы
name Имя политики, определяющее типы данных вычислений и переменных. Может быть любым именем типа данных, например "float32" или "float64"; в этом случае оба типа данных — для вычислений и переменных — будут соответствовать указанному типу. Также может быть строкой "mixed_float16" или "mixed_bfloat16"; в этом случае типом данных вычислений будет float16 или bfloat16, а типом данных переменных — float32.

Обычно с политиками типов данных нужно взаимодействовать только при использовании смешанной точности — то есть при использовании float16 или bfloat16 для вычислений и float32 для переменных. Поэтому в имени API присутствует термин mixed_precision. Смешанную точность можно включить, передав "mixed_float16" или "mixed_bfloat16" в keras.mixed_precision.set_dtype_policy().

keras.config.set_dtype_policy("mixed_float16")
layer1 = keras.layers.Dense(10)
layer1.dtype_policy  # layer1 will automatically use mixed precision
<DTypePolicy "mixed_float16">
# Can optionally override layer to use float32
# instead of mixed precision.
layer2 = keras.layers.Dense(10, dtype="float32")
layer2.dtype_policy
<DTypePolicy "float32">
# Set policy back to initial float32.
keras.config.set_dtype_policy('float32')

В приведенном выше примере передача dtype="float32" слою эквивалентна передаче dtype=keras.config.DTypePolicy("float32"). В общем случае передача имени политики типов данных слою эквивалентна передаче соответствующей политики, поэтому явно создавать объект DTypePolicy не требуется.

Атрибуты
compute_dtype Тип данных вычислений этой политики.

Это тип данных, в котором слои выполняют вычисления. Как правило, слои также выводят тензоры с этим типом данных.

Обратите внимание, что даже если типом данных вычислений является float16 или bfloat16, аппаратные устройства могут выполнять отдельные операции сложения, умножения и другие базовые операции не в float16 или bfloat16, а в float32 — для повышения числовой стабильности. Тип данных вычислений — это тип входных и выходных данных операций, выполняемых слоем. Многие операции внутри могут выполнять некоторые вычисления в float32 или в другом внутреннем промежуточном формате устройства с более высокой точностью, чем float16/bfloat16, чтобы повысить числовую стабильность.

name Возвращает имя этой политики.
quantization_mode Режим квантования этой политики.
variable_dtype Тип данных переменных этой политики.

Это тип данных, в котором слои создают переменные, если только слой явно не выбирает другой тип данных. Если он отличается от DTypePolicy.compute_dtype, слои преобразуют переменные к типу данных вычислений, чтобы избежать ошибок типов.

Регуляризаторы переменных выполняются с типом данных переменных, а не с типом данных вычислений.

Методы

convert_input

Просмотреть исходный код

convert_input(
    x, autocast, dtype
)

from_config

Просмотреть исходный код

@classmethod
from_config(
    config
)

get_config

Просмотреть исходный код

get_config()

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/keras/dtype_policies/QuantizedDTypePolicy

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API