Entrenamiento discriminativo para HMM utilizando redes neuronales recurrentes
- Segura Luna, José Carlos
- Peinado Herreros, A.
- Rubio Ayuso, Antonio José
- Díaz Verdejo, Jesús Esteban
- Gálvez López, J.A.
ISSN: 1135-5948
Año de publicación: 1993
Número: 13
Páginas: 359-366
Tipo: Artículo
Otras publicaciones en: Procesamiento del lenguaje natural
Resumen
En el presente artículo se presentan los resultados obtenidos a partir de una estructura en red para los Modelos Ocultos de Markov, aplicados al reconocimiento del habla. La topología de la red es la de una Red Neuronal Recurrente, en la que cada iteración temporal es identificada con una capa. El entrenamiento de dicha red se realiza mediante técnicas de retropropagación. Dos tipos de medidas de error se utilizan para el entrenamiento: máxima semejanza y entrenamiento discriminativo. La aplicación de las técnicas de retropropagación para la reestimación de los HMM-RNN en el caso de entrenamiento por máxima semejanza proporciona las mismas ecuaciones de reestimación que el algoritmo de Baum-Welch utilizado para entrenar los HMM. El entrenamiento discriminativo se basa en la probabilidad de clasificación correcta de las secuencias a partir de la medida de máxima semejanza. Los resultados obtenidos han demostrado que el mejor procedimiento para entrenar los RNN-HMM consiste en realizar una primera estimación mediante la medida de máxima semejanza para, posteriormente, reentrenarlos mediante el algoritmo de entrenamiento discriminativo.