LazyLinear

class torch.nn.LazyLinear(out_features, bias=True, device=None, dtype=None) [source]

A линейный модуль, где in_features вычисляется автоматически.

В этом модуле weight и bias имеют тип torch.nn.UninitializedParameter. Они будут инициализированы после первого вызова forward, и модуль станет обычным линейным модулем torch.nn.Linear. Аргумент in_features модуля torch.nn.Linear вычисляется автоматически исходя из input.shape[-1].

См. документацию по ленивым модулям и их ограничениям.

Параметры:

• out_features (int) – размер каждого выходного образца
• bias (UninitializedParameter) – Если установлено False, слой не будет обучаться аддитивному смещению. По умолчанию: True

Переменные:

• weight (torch.nn.parameter.UninitializedParameter) – обучаемые веса модуля формы $(\text{out\_features}, \text{in\_features})$. Значения инициализируются из $\mathcal{U}(-\sqrt{k}, \sqrt{k})$, где $k = \frac{1}{\text{in\_features}}$
• bias (torch.nn.parameter.UninitializedParameter) – обучаемое смещение модуля формы $(\text{out\_features})$. Если bias равно True, значения инициализируются из $\mathcal{U}(-\sqrt{k}, \sqrt{k})$, где $k = \frac{1}{\text{in\_features}}$

cls_to_become

Псевдоним для torch.nn.modules.linear.Linear