Problema que aborda
Las redes grandes sobreajustan con facilidad.
Aportación principal
Apagar neuronas al azar durante el entrenamiento, lo que equivale a promediar muchas subredes.
Arquitectura
Aplicable a cualquier capa.
Relevancia histórica
Técnica de regularización estándar en redes profundas.
Implementaciones
torch.nn.Dropout
Experimenta con la idea en el laboratorio relacionado.
Referencia
N. Srivastava, G. Hinton, A. Krizhevsky, I. Sutskever, R. Salakhutdinov (2014). «Dropout: A Simple Way to Prevent Neural Networks from Overfitting». JMLR 15, 1929–1958.