Часть 5.1 специализации глубокого обучения

1. Почему РНН, а не НН?

1.1 Ячейка RNN

1.2 Ячейка против слоя

1 ячейка, 1 слой

Последовательный ввод в одну и ту же ячейку RNN.

N-ячейка, N-слой ›› Глубокий RNN

2. Двунаправленная РНС

3. РНН — ГРУ — ЛСТМ

3.1 РНН

3.2 ЛСТМ

4. Представление слова

- Горячее кодирование

- Вложение слов

- Word2Vec

4.1 Горячее кодирование

представлять слова разреженной матрицей всех уникальных слов

4.2 Встраивание слов

представлять слова матрицей выбранных признаков

4.3 Word2Vec

научиться встраиванию слов с помощью нейронной сети

(Кодер — Декодер)

5. Модель внимания

узнать, где (когда) сосредоточиться в соответствии с вводом

Статьи по Теме

Ссылка

Специализация глубокого обучения: сверточная нейронная сеть (Coursera) (Youtube)