Architecture Asymétrique pour les Modèles Neuronaux d'Appariement de Textes

Abstract

Dans les modèles neuronaux d’appariement de textes, les entrées subissent les mêmes transformations pour construire les représentations correspondantes. La nature de la tâche d’appariement est défini à partir du type des entrées du modèle et de la relation entre elles. Nous distinguons deux types d’appariement : (1) l’appariement symétrique fait référence aux tâches d’appariement à des entrées de même nature, telles que l’identification des paraphrases et la classification de documents. (2) l’appariement asymétrique concerne des tâches à des entrées de natures différentes, telle que l’appariement document-requête ou question-réponse. Généralement, les représentations des entrées sont construites indépendamment de leurs nature à partir des vecteurs de leurs mots. Nous proposons une approche permettant de prendre en compte la nature de la tâche, (1) ou (2), et de mieux traiter les entrées. Nous utilisons un modèle d’attention pour étendre des modèles de l’état de l’art. Les résultats expérimentaux montrent que l’adaptation de l’architecture du modèle au type de la tâche permet d’améliorer les performances de plusieurs modèles neuronaux bien connus.