L1-регуляризация: где использовать функцию штрафных издержек?

Регуляризация L1 добавляет штрафной член к функции стоимости, чтобы ограничить размер весов. Правильно ли я понимаю, что эта функция штрафных затрат используется только на этапе оптимизации, а не для расчета потерь модели? Например. для расчета потерь модели в проверочном наборе должна использоваться функция нештрафных потерь?


person Ev4    schedule 23.10.2018    source источник


Ответы (1)


Да ты прав. Функция потерь измеряет разницу предсказания модели с целевым значением. Штрафной термин используется для предотвращения чрезмерной подгонки.

person wleizny    schedule 23.10.2018