tf.raw_ops.UniformQuantizedConvolutionHybrid

Выполняет гибридную квантованную свёртку тензора с плавающей запятой lhs и квантованного тензора rhs.

tf.raw_ops.UniformQuantizedConvolutionHybrid(
    lhs,
    rhs,
    rhs_scales,
    rhs_zero_points,
    Tout,
    padding,
    rhs_quantization_min_val,
    rhs_quantization_max_val,
    window_strides=[],
    explicit_padding=[],
    lhs_dilation=[],
    rhs_dilation=[],
    batch_group_count=1,
    feature_group_count=1,
    dimension_numbers='',
    rhs_quantization_axis=-1,
    name=None
)

Для тензора с плавающей запятой lhs и квантованного тензора rhs выполняется внутреннее квантование lhs, а затем квантованная свёртка над квантованными lhs и rhs.

Внутреннее квантование lhs — это квантование до Trhs, с динамическим диапазоном, отдельно для каждого пакета (по каждой оси вдоль оси dimension_numbers.input_batch_dimension), асимметричное и без сужения диапазона (диапазон — [Trhs_MIN, Trhs_MAX]).

lhs и rhs должны быть тензорами одинаковой размерности и удовлетворять следующим условиям для формы.

• lhs_feature % feature_group_count == 0
• lhs_feature % rhs_input_feature == 0
• lhs_feature / feature_group_count == rhs_input_feature
• rhs_output_feature % feature_group_count == 0
• lhs_batch % batch_group_count == 0
• rhs_output_feature % batch_group_count == 0

rhs должен быть квантованным тензором, значения данных которого квантованы по формуле: quantized_data = clip(original_data / scale + zero_point, quantization_min_val, quantization_max_val).