tf.tpu.experimental.embedding.QuantizationConfig

Настройки для имитации квантования таблицы встраиваний TPU.

tf.tpu.experimental.embedding.QuantizationConfig(
    num_buckets: int, lower: float, upper: float
)

Если имитация квантования включена, результаты поиска в таблице встраиваний перед применением combiner обрезаются и квантются в соответствии с указанными здесь настройками.

Например, для квантования input выполняются следующие действия:

if input < lower
  input = lower
if input > upper
  input = upper
quantum = (upper - lower) / (num_buckets - 1)
input = math.floor((input - lower) / quantum + 0.5) * quantium + lower

Подробнее см. в tensorflow/core/protobuf/tpu/optimization_parameters.proto.

Примечание: Это не меняет тип хранения таблицы встраиваний: он по-прежнему будет float32, как и сохранённая переменная в контрольной точке. Переменную необходимо квантовать вручную (обычно с использованием того же алгоритма и настроек, что указаны выше).