Как упоминалось здесь, перекрестная энтропия не является подходящей функцией потерь для многокомпонентная классификация. У меня вопрос: «Верно ли это и для кросс-энтропии с softmax?». Если да, то как его можно сопоставить с этой частью документ.
Я должен упомянуть, что объем моего вопроса находится в cntk.
Классификация с несколькими метками обычно означает «много двоичных меток». С учетом этого определения перекрестная энтропия с softmax не подходит для классификации по нескольким меткам. Документ во второй ссылке, которую вы предоставляете, говорит о проблемах с несколькими классами, а не о проблемах с несколькими ярлыками. Перекрестная энтропия с softmax подходит для мультиклассовой классификации. Для классификации по нескольким меткам обычно используется сумма двоичных кросс-энтропий каждой метки. Бинарную кросс-энтропию можно вычислить с помощью Logistic в Brainscript или с binary_cross_entropy в Python.
Если, с другой стороны, у вас проблемы со многими многоклассовыми метками, вы можете использовать cross_entropy_with_softmax для каждой из них, и CNTK автоматически суммирует все эти значения потерь.
