¿Cuáles son todos los beneficios del aprendizaje supervisado que primero pasa por el aprendizaje no supervisado?

Answer 1

Si tiene un caso semi-supervisado (900 ejemplos no etiquetados, 100 ejemplos etiquetados), es bueno hacer primero una capacitación no supervisada en todos los ejemplos antes de realizar una capacitación supervisada en los ejemplos etiquetados, porque los ejemplos no etiquetados ayudarán a generalizar el modelo.

Además de los casos semi-supervisados, es un algoritmo específico. En el aprendizaje profundo, por ejemplo, el entrenamiento previo no supervisado en capas acelera el entrenamiento porque es difícil entrenar los pesos de las primeras pocas capas de una red a partir de la propagación hacia atrás debido a la degradación de la desaparición / explosión. El entrenamiento previo inicializa los pesos en las primeras capas para cerrar los valores finales de antemano. Dicho esto, algunos resultados recientes indican que el entrenamiento previo ya no es beneficioso para las redes con funciones de activación lineal rectificadas (que no tienen el problema de gradiente de fuga / explosión).

Muy interesante lea si está interesado en redes neuronales profundas – Página en pascal-network.org

Casi nunca es posible obtener una prueba rigurosa de cualquier sistema de aprendizaje automático.