Actualités

Réseaux de neurones récurrents pour le traitement automatique de la parole

Thèse de Grégory Gelly, soutenue le 22/09/2017 à 14h au Limsi.

Le domaine du traitement automatique de la parole regroupe un très grand nombre de tâches parmi lesquelles on trouve la reconnaissance de la parole, l’identification de la langue ou l'identification du locuteur. Ce domaine de recherche fait l’objet d'études depuis le milieu du vingtième siècle mais la dernière rupture technologique marquante est relativement récente et date du début des années 2010. C’est en effet à ce moment qu'apparaissent des systèmes hybrides utilisant des réseaux de neurones profonds (DNN) qui améliorent très notablement l'état de l'art.

Inspirés par le gain de performance apporté par les DNN et par les travaux d’Alex Graves sur les réseaux de neurones récurrents (RNN), nous souhaitions explorer les capacités de ces derniers. En effet, les RNN nous semblaient plus adaptés que les DNN pour traiter au mieux les séquences temporelles du signal de parole. Dans cette thèse, nous nous intéressons tout particulièrement aux RNN à mémoire court-terme persistante (Long Short Term Memory (LSTM)) qui permettent de s’affranchir d'un certain nombre de difficultés rencontrées avec des RNN standards. Nous augmentons ce modèle et nous proposons des processus d’optimisation permettant d’améliorer les performances obtenues en segmentation parole/non-parole et en identification de la langue. En particulier, nous introduisons des fonctions de coût dédiées à chacune des deux tâches: un simili-WER pour la segmentation parole/non-parole dans le but de diminuer le taux d’erreur d’un système de reconnaissance de la parole et une fonction de coût dite de proximité angulaire pour les problèmes de classification multi-classes tels que l'identification de la langue parlée.

Jury :

Jean-Luc Gauvain, Directeur de Recherche CNRS-LIMSI, Directeur de thèse

Jerome Bellegarda, Distinguished Scientist Apple Inc. rapporteur

Denis Jouvet, Directeur de Recherche INRIA-LORIA, rapporteur

Gaël Richard, Professeur de Télécom ParisTech, examinateur

Sylvain Surcin, Ingénieur du Ministère des armées, examinateur

LIMSI
Campus universitaire bât 508
Rue John von Neumann
F - 91405 Orsay cedex
Tél +33 (0) 1 69 15 80 15
Email

RAPPORTS SCIENTIFIQUES

Le LIMSI en chiffres

10 équipes de recherche
100 chercheurs et enseignants-chercheurs
40 ingénieurs et techniciens
60 doctorants
70 stagiaires

 Université Paris-Sud nouvelle fenêtre

 

Paris-Saclay nouvelle fenêtre