Нестеров Павел рассказывает о нейросетевом автоэнкодере, стохастической и рекурентной нейронной сети. Говорит о машине Больцмана и ограниченной машине Больцмана. Рассказывает о распределении Гиббса и алгоритме contrastive divergence для обучения РБМ. Говорит о сэмплировании данных из РБМ, бинарной РБМ и гауссово-бинарной РБМ. О влиянии регуляризации, нелинейном сжатии размерности, извлечении признаков и Semantic hashing.
- Вспоминаем прошлую лекцию
- Softmax слой
- Обучение без учителя
- Ограниченная машина Больцмана
- Алгоритм contrastive divergence
- Заметки про RBM