PerGroup

class torch.ao.quantization.observer.PerGroup(group_size) [source]

Представляет гранулярность квантования по группам каналов.

Этот тип гранулярности вычисляет разные параметры квантования для каждой группы из <group_size> элементов.

Например, если форма входного тензора — [8, 16], а размер группы равен 4, входной тензор преобразуется в форму [64, 4], а параметры квантования вычисляются для каждой группы из 4 элементов, что в итоге дает 64 параметра квантования.

Переменные:

group_size (int) – Размер каждой группы квантования