Эмбеддинг

class torch.ao.nn.quantized.Embedding(num_embeddings, embedding_dim, padding_idx=None, max_norm=None, norm_type=2.0, scale_grad_by_freq=False, sparse=False, _weight=None, dtype=torch.quint8) [исходный код]

Квантованный модуль эмбеддингов, принимающий упакованные квантованные веса. Мы используем тот же интерфейс, что и torch.nn.Embedding; документацию см. на странице https://pytorch.org/docs/stable/generated/torch.nn.Embedding.html.

Как и в Embedding, атрибуты случайным образом инициализируются при создании модуля, а позднее перезаписываются

Переменные:

weight (Tensor) – некорректируемые квантованные веса модуля формы $(\text{num\_embeddings}, \text{embedding\_dim})$.

Примеры::

>>> m = nn.quantized.Embedding(num_embeddings=10, embedding_dim=12)
>>> indices = torch.tensor([9, 6, 5, 7, 8, 8, 9, 2, 8])
>>> output = m(indices)
>>> print(output.size())
torch.Size([9, 12])

classmethod from_float(mod, use_precomputed_fake_quant=False) [исходный код]

Создаёт квантованный модуль эмбеддингов на основе модуля с плавающей точкой

Параметры:

mod (Module) – модуль с плавающей точкой, созданный с помощью утилит torch.ao.quantization или предоставленный пользователем