Билинейное

class torch.nn.Bilinear(in1_features, in2_features, out_features, bias=True, device=None, dtype=None) [source]

Применяет билинейное преобразование к входным данным: $y = x_1^T A x_2 + b$

Параметры

• in1_features (int) – размер каждого первого входного образца
• in2_features (int) – размер каждого второго входного образца
• out_features (int) – размер каждого выходного образца
• bias (bool) – Если установлено в False, слой не будет учиться добавочной смещение. По умолчанию: True

Форма:

• Вход 1: $(*, H_{in1})$ где $H_{in1}=\text{in1\_features}$ и $*$ означает любое количество дополнительных измерений, включая отсутствие. Все, кроме последнего измерения входных данных, должны быть одинаковыми.
• Вход 2: $(*, H_{in2})$ где $H_{in2}=\text{in2\_features}$.
• Выход: $(*, H_{out})$ где $H_{out}=\text{out\_features}$ и все, кроме последнего измерения, имеют такую же форму, что и входные данные.

Переменные

• weight (torch.Tensor) – обучаемые веса модуля с формой $(\text{out\_features}, \text{in1\_features}, \text{in2\_features})$. Значения инициализируются из $\mathcal{U}(-\sqrt{k}, \sqrt{k})$, где $k = \frac{1}{\text{in1\_features}}$
• bias – обучаемая смещение модуля с формой $(\text{out\_features})$. Если bias равно True, значения инициализируются из $\mathcal{U}(-\sqrt{k}, \sqrt{k})$, где $k = \frac{1}{\text{in1\_features}}$

Примеры:

>>> m = nn.Bilinear(20, 30, 40)
>>> input1 = torch.randn(128, 20)
>>> input2 = torch.randn(128, 30)
>>> output = m(input1, input2)
>>> print(output.size())
torch.Size([128, 40])