Linear

class torch.ao.nn.quantized.Linear(in_features, out_features, bias_=True, dtype=torch.qint8) [исходный код]

Квантованный линейный модуль, принимающий и возвращающий квантованные тензоры. Мы используем тот же интерфейс, что и torch.nn.Linear; документацию см. по адресу https://pytorch.org/docs/stable/nn.html#torch.nn.Linear.

Как и в Linear, атрибуты инициализируются случайными значениями при создании модуля, а позднее их значения будут перезаписаны

Переменные:

• weight (Tensor) – необучаемые квантованные веса модуля формы $(\text{out\_features}, \text{in\_features})$.
• bias (Tensor) – необучаемое смещение модуля формы $(\text{out\_features})$. Если bias — True, значения инициализируются нулями.
• scale – scale параметр выходного квантованного тензора, тип: double
• zero_point – zero_point параметр выходного квантованного тензора, тип: long

Примеры:

>>> m = nn.quantized.Linear(20, 30)
>>> input = torch.randn(128, 20)
>>> input = torch.quantize_per_tensor(input, 1.0, 0, torch.quint8)
>>> output = m(input)
>>> print(output.size())
torch.Size([128, 30])

classmethod from_float(mod, use_precomputed_fake_quant=False) [исходный код]

Создает квантованный модуль на основе наблюдаемого модуля с плавающей точкой

Параметры:

• mod (Module) – модуль с плавающей точкой, созданный с помощью утилит torch.ao.quantization или предоставленный пользователем
• use_precomputed_fake_quant (bool) – если True, модуль повторно использует минимальные и максимальные значения из модуля предварительно вычисленного fake quant.

classmethod from_reference(ref_qlinear, output_scale, output_zero_point) [исходный код]

Создает квантованный модуль (fbgemm/qnnpack) на основе эталонного квантованного модуля

Параметры:

• ref_qlinear (Module) – эталонный квантованный линейный модуль, созданный с помощью утилит torch.ao.quantization или предоставленный пользователем
• output_scale (float) – масштаб выходного тензора
• output_zero_point (int) – нулевая точка выходного тензора