tf.tpu.experimental.embedding.QuantizationConfig

Настройки для моделируемого квантования таблицы встраивания tpu.

tf.tpu.experimental.embedding.QuantizationConfig(
    num_buckets: int, lower: float, upper: float
)

При включенном моделируемом квантовании результаты поиска вставки отсекаются и квантуются в соответствии с настройками здесь, прежде чем применяется объединитель.

Например, для квантования input выполняется следующее:

if input < lower
  input = lower
if input > upper
  input = upper
quantum = (upper - lower) / (num_buckets - 1)
input = math.floor((input - lower) / quantum + 0.5) * quantium + lower

См. tensorflow/core/protobuf/tpu/optimization_parameters.proto для получения более подробной информации.

Примечание: Это не изменяет тип хранения таблицы встраивания, который по-прежнему будет float32, как и сохраненная переменная в контрольной точке. Вам необходимо вручную квантовать переменную (обычно с тем же алгоритмом и настройками, что и выше) вручную.