Когда размеры партий разные, как определить размер wq, Wk и WV собственного внимания
Я планирую использовать самостоятельное внимание на мини-пакете pyG, размер wq, WK, WV должен быть [batch_nodes],[batch_num_nodes],[batch_num_nodes]. Однако сейчас возникла проблема. Поскольку количество узлов на каждой диаграмме Nini-Batch разное, размерности wq, Wk и WV постоянно меняются. Могу я спросить, как быть в этой ситуации?