Basma El Amel Boussaha, doctorante au sein de l’équipe TALN, soutiendra sa thèse intitulée « Recherche de réponses pour les systèmes de dialogue basés sur la recherche de réponse de bout en bout » / « Response selection for end-to-end retrieval-based dialogue systems »

mercredi 23 octobre 2019 à 14h, dans l’amphi du bâtiment 34 sur le site de la FST.

Jury :
– Directeur thèse : Emmanuel MORIN
– Co- encadrants : Nicolas HERNANDEZ, Christine JACQUIN
– Examinateurs : Sophie ROSSET (LIMSI), Frédéric BECHET (LIS), Yannick ESTEVE (LIA)

Résumé : Le besoin croissant en assistance humaine a poussé les chercheurs à développer des systèmes de dialogue automatiques, intelligents et infatigables qui conversent avec les humains dans un langage naturel pour devenir soit leurs assistants virtuels ou leurs compagnons. L’industrie des systèmes de dialogue est devenue populaire cette dernière décennie, ainsi, plusieurs systèmes ont été développés par des industriels comme des académiques. Dans le cadre de cette thèse, nous étudions les systèmes de dialogue orientés vers la tâche comme la réservation de restaurants en cherchant la réponse la plus appropriée à la conversation parmi un ensemble de réponses prédéfini. Le défi majeur de ces systèmes est la compréhension de la conversation et l’identification des éléments qui décrivent le problème et la solution qui sont souvent implicites. La plupart des approches
récentes sont basées sur des techniques d’apprentissage profond qui permettent de capturer des informations implicites. Souvent, ces approches sont complexes ou dépendent fortement du domaine. Nous proposons une approche de recherche de réponse de bout en bout, simple, efficace et indépendante du domaine et qui permet de capturer ces informations implicites. Nous effectuons également des analyses profondes afin de déterminer des pistes d’amélioration.

Mot-clés : Apprentissage profond, systèmes de dialogue orientés tâche, chatbots, systèmes de recherche, réseaux de neurones

**********

Abstract: The increasing need of human assistance pushed researchers to develop automatic, smart and tireless dialogue systems that can converse with humans in natural language to be either their virtual assistant or their chat companion. The industry of dialogue systems has been very popular in the last decade and many systems from industry and academia have been developed. In this thesis, we study task-oriented retrieval-based dialogue systems which aim to fulfill a specific task such as restaurant booking by retrieving the most appropriate response to the conversation among a set of predefined responses. The main challenge of these systems is to understand the conversation and identify the elements that describe the problem and the solution which are usually implicit. Most of the recent approaches are based on deep learning techniques which can automatically capture implicit information. However these approaches are either complex or domain dependent. We propose a simple, end-to-end and efficient retrieval-based dialogue system that first matches the response with the history of the conversation on the sequencelevel and then we extend the system to multiple levels while keeping the architecture simple and domain independent. We perform several deep analyzes to determine possible improvements.

Keywords: Deep learning, goal-oriented dialogue systems, chatbots, retrieval-systems, neural networks

Adeline Granet, doctorante au sein de l’équipe TALN soutiendra sa thèse intitulée « Extraction d’information dans des documents manuscrits anciens » / « Extracting information in old handwritten documents »

mercredi 12 décembre à 14h, dans l’amphi du Bâtiment 34sur le site de l’UFR Sciences.

Jury : Emmanuel Morin (directeur de thèse), Harold Mouchère (co-encadrant), Frédéric Béchet (rapporteur, U Marseille), Antoine Doucet (Rapporteur, U la Rochelle), Clément Chatelain (INSA Rouen), Solen Quiniou

Résumé : La tâche d’exploration dans des ressources inexploitées mais nouvellement numérisées, afin d’y trouver des informations pertinentes, est complexifiée par la quantité de
ressources disponibles. Grâce au projet ANR CIRESFI, la ressource la plus importante, pour la Comédie-Italienne du XVIIIe siècle, est un ensemble de registres comptables constituée de 28 000 pages. L’extraction d’informations est un processus long et complexe qui demande une expertise à chaque étape : détection et segmentation, extraction de caractéristiques, reconnaissance d’écriture manuscrite. Les systèmes à base de réseaux de neurones profonds dominent dans l’ensemble ces approches. Le problème majeur est qu’ils nécessitent d’avoir une grande quantité de données pour réaliser leur apprentissage.
Cependant, les registres de la Comédie-Italienne ne possèdent pas de vérité terrain. Pour palier ce manque de données, nous explorons des approches pouvant opérer un apprentissage par transfert de connaissance. Cela signifie utiliser un ensemble de données déjà étiquetées et disponibles, possédant un minimum de points communs avec nos données pour entraîner les systèmes, pour ensuite les appliquer sur nos données. L’ensemble de nos expérimentations nous ont montré la difficulté de réaliser cette tâche, chaque choix à chaque étape ayant un impact fort sur la suite du système. Nous convergeons vers une solution séparant le modèle optique du modèle de langage afin de réaliser un apprentissage indépendant avec différents types de ressources disponibles et se rejoignant grâce à une projection de l’ensemble des informations dans un espace commun non-latent

Mots clés : Reconnaissance d’écriture manuscrite, Apprentissage par transfert de connaissance, Réseaux de neurones, Documents historiques, Modèle optique, Modèle linguistique

********

Abstract: Exploring unexploited but newly digitized resources to find relevant information is a complicated task due to the amount of available resources. Thanks to the ANR project CIRESFI, the most important resource for the Italian Comedy of the 18th century, is a set of accounting registers consisting of 28,000 pages. Information retrieval is a long and complex process that requires expertise at every step: detection and segmentation in paragraphs, lines or words, features extraction, handwriting recognition. Systems based on deep neural networks dominate these approaches. The major issue is the need of a large amount of data to achieve their learning.
However, the registers of the Italian Comedy have no ground truth. To overcome this lack of data, we explore approaches that involving transfer learning. That means using heterogeneous labeled and available data, with at least one common feature with our data to drive the systems, and then applying them to our data. All of our experiments have shown us the difficulty of carrying out this task, each choice at each stage having a strong impact on the rest of the system. We converge on a solution separating the optical model from the language model in order to achieve independent learning with different available resources and joining together thanks to a projection of the information into a non-latent common space.

Keywords: Handwriting recognition, Transfer learning, Neural network, Historical documents, Optical model, Linguistic model