tf.raw_ops.UniformQuantizedConvolutionHybrid

Выполнить гибридное квантованное свёртку float тензора lhs и квантованного тензора rhs.

tf.raw_ops.UniformQuantizedConvolutionHybrid(
    lhs,
    rhs,
    rhs_scales,
    rhs_zero_points,
    Tout,
    padding,
    rhs_quantization_min_val,
    rhs_quantization_max_val,
    window_strides=[],
    explicit_padding=[],
    lhs_dilation=[],
    rhs_dilation=[],
    batch_group_count=1,
    feature_group_count=1,
    dimension_numbers='',
    rhs_quantization_axis=-1,
    name=None
)

Учитывая float lhs и квантованный rhs, во внутренней выполняет квантование на lhs, а затем выполняет квантованную свёртку по квантованному lhs и rhs.

Внутреннее квантование на lhs — это квантование в Trhs, динамический диапазон, на пакет (на ось по оси dimension_numbers.input_batch_dimension), асимметричное и не узкого диапазона (диапазон [Trhs_MIN, Trhs_MAX]).

lhs и rhs должны быть тензорами одинакового ранга и соответствовать следующим условиям формы.

• lhs_feature % feature_group_count == 0
• lhs_feature % rhs_input_feature == 0
• lhs_feature / feature_group_count == rhs_input_feature
• rhs_output_feature % feature_group_count == 0
• lhs_batch % batch_group_count == 0
• rhs_output_feature % batch_group_count == 0

rhs должен быть квантованным тензором, где его значение данных квантуется по формуле: quantized_data = clip(original_data / scale + zero_point, quantization_min_val, quantization_max_val).