Как реализовать взвешенный softmax в цепочке

Я повторно публикую документ https://arxiv.org/abs/1711.11575: где он одна формула: введите здесь описание изображения

Но я искал chainer, в нем есть только F.softmax, но он не может добавить ему веса. Как переопределить эту формулу?


softmax chainer
person machen    schedule 17.02.2018    source источник
comment
Вы хотите добавить термин w_G^{mn}? Как насчет добавления журнала значений (w_G^{mn}) к каждому выводу перед применением обычного softmax?   -  person corochann    schedule 17.02.2018
comment
Вы - гений! да, законы математики позволяют это сделать!   -  person machen    schedule 18.02.2018

Ответы (1)


arrow_upward
0
arrow_downward

Если вы хотите добавить термин w_G^{mn}, я думаю, что «добавление журнала значений (w_G ^ {mn})» к каждому выводу перед применением обычного softmax должно иметь тот же эффект.

person corochann    schedule 20.02.2018