Auswahl der wissenschaftlichen Literatur zum Thema „Représentations distributionnelles“

Dans ce travail, nous examinons sur le plan distributionnel le sens de dérivés morphologiques, et plus précisément des noms d’agent déverbaux en-eur,-euse et-rice, et des noms d’action dé verbaux en-age, - ion et-ment. Nous utilisons une approche distributionnelle automatisée et un lexique dérivationnel. Nous proposons une représentation de l’information distributionnelle permettant d’examiner le sens prototypique des dérivés et l’instruction sé mantique prototypique des suffixes. Nous montrons notamment que la différence entre les suffixes-eur,-euse et-rice ne relève pas seulement du genre et que les dérivés en-age,-ion et-ment présentent des profils spécifiques sur le plan distributionnel.

International audience Named Entity Recognition (NER) is a fundamental task in many NLP applications that seek to identify and classify expressions such as people, location, and organization names. Many NER systems have been developed, but the annotated data needed for good performances are not available for low-resource languages, such as Cameroonian languages. In this paper we exploit the low frequency of named entities in text to define a new suitable cross-lingual distributional representation for named entity recognition. We build the first Ewondo (a Bantu low-resource language of Cameroon) named entities recognizer by projecting named entity tags from English using our word representation. In terms of Recall, Precision and F-score, the obtained results show the effectiveness of the proposed distributional representation of words La reconnaissance des entités nommées (REN) est une tâche fondamentale du TALN dont le but est d'identifier les expressions telles que les noms de personnes, de lieux et d'organisations dans un texte. Il existe de nos jours plusieurs systèmes de REN, cependant les données nécessaires pour les utiliser dans le traitement des langues peu dotées telles que les langues camerounaises ne sont pas disponibles. Nous exploitons le fait que les entités nommées apparaissent rarement dans les textes pour définir une nouvelle représentation distributionnelle interlingue des mots, qui soit adaptée à la REN. En utilisant notre représentation, nous projectons les entités nommées de l'anglais vers l'ewondo (une langue bantou du Cameroun); nous obtenons donc le tout premier modèle de reconnaissance des entités nommées en langue ewondo. Les résultats en terme de précision, rappel et f-mesure montrent l'efficacité de notre représentation

Les dialogues ont une place importante dans la société et celle-ci s’accroît au fur et à mesure que la technologie progresse. Il existe de plus en plus d'outils pour dialoguer à distance permettant la collecte d'une masse importante de données, utilisables pour réaliser différentes analyses et divers systèmes automatiques.L'analyse du discours conversationnel est une réponse partielle pour comprendre certains aspects de la production du langage dans les dialogues. Une telle analyse permet de caractériser les interactions entre les messages d'un dialogue et ainsi faire ressortir les différents enjeux ou d'identifier les échanges nécessaires pour faire progresser le dialogue.Produire ces analyses est une tâche complexe. Le nombre important de théories d'analyse du discours illustre bien la complexité pour un humain à définir des structures discursives modélisant l'ensemble des interactions. Ceci rend la production d'un grand corpus annoté très coûteuse et le peu de données annotées rend difficile l'utilisation d'algorithmes d'apprentissage supervisés.Dans cette thèse, je propose de produire des représentations du discours conversationnel en s'appuyant sur peu de données annotées discursivement. La thèse s'inscrit dans le cadre de l'ANR DATCHA me donnant accès à un grand corpus de tchats provenant de l'entreprise Orange. Ce corpus me permet d'explorer plusieurs stratégies pour produire des représentations du discours: s'appuyer sur un modèle bout-en-bout prédisant la satisfaction des clients; se fonder sur des annotations en actes de dialogue pour produire des plongements de phrases; utiliser des algorithmes supervisés sur un corpus enrichi automatiquement
Dialogues are a central part of human society, and technological improvements only strengthen their use in more and more situations. Additional tools used to communicate from a distance allow the collection of large amounts of data, which can be used to produce various analyses and automatic systems.Conversational discourse analysis is a partial response to understand some aspects of language production in dialogues. It is used to characterize the different interactions between the messages of a dialogue, and thus highlight the different issues or identify the exchanges that are needed to solve the dialogue's main objectives.Discourse parsing is a challenging task. The high number of existing theories of discourse analysis shows that humans have a hard time defining discursive structures that model all possible interactions. This difficulty makes the production of annotated corpora expensive and the low amount of discursively annotated data makes the use of supervised learning algorithms impractical.In this thesis, I propose to produce representations of conversational discourse based on data that is partially annotated with discourse structures. The thesis is part of the DATCHA project which allowed me access to a large corpus of dialogues owned by the Orange company. This corpus allows us to explore different strategies in order to produce discourse representations: rely on an end-to-end model that predicts customer satisfaction; rely on dialogue acts to produce sentence embeddings; using supervised algorithms on an automatically enriched corpus

Ce travail de thèse présente un modèle de construction du sens d'un genre nouveau, défini dans le cadre des mathématiques du continu. Le langage y est vu comme un système morphodynamique, obéissant aux principes de base de la Gestalttheorie. Les unités linguistiques découpent leur sens dans un espace sémantique possédant une structure de variété différentiable. Nous avons implémenté ce modèle et l'avons testé sur le lexique adjectival français. Une méthode de construction automatique des espaces sémantiques, reposant sur l'analyse d'un graphe de synonymie, permet d'explorer le lexique adjectival dans son ensemble, ou de construire des espaces locaux. Les espaces sémantiques locaux servent de base à une méthode dynamique de calcul du sens, permettant de prendre en compte les différents facteurs de polysémie adjectivale. L'utilisation des espaces sémantiques globaux ouvre de belles perspectives, tant dans le domaine du calcul du sens que celui de l'exploration de graphes petit monde.

This thesis, which is organized in two independent parts, presents work on distributional semantics and on variable selection. In the first part, we introduce a new method for learning good word representations using large quantities of unlabeled sentences. The method is based on a probabilistic model of sentence, using a hidden Markov model and a syntactic dependency tree. The latent variables, which correspond to the nodes of the dependency tree, aim at capturing the meanings of the words. We develop an efficient algorithm to perform inference and learning in those models, based on online EM and approximate message passing. We then evaluate our models on intrinsic tasks such as predicting human similarity judgements or word categorization, and on two extrinsic tasks: named entity recognition and supersense tagging. In the second part, we introduce, in the context of linear models, a new penalty function to perform variable selection in the case of highly correlated predictors. This penalty, called the trace Lasso, uses the trace norm of the selected predictors, which is a convex surrogate of their rank, as the criterion of model complexity. The trace Lasso interpolates between the $\ell_1$-norm and $\ell_2$-norm. In particular, it is equal to the $\ell_1$-norm if all predictors are orthogonal and to the $\ell_2$-norm if all predictors are equal. We propose two algorithms to compute the solution of least-squares regression regularized by the trace Lasso, and perform experiments on synthetic datasets to illustrate the behavior of the trace Lasso.

Cette thèse, organisée en deux parties indépendantes, a pour objet la sémantique distributionnelle et la sélection de variables. Dans la première partie, nous introduisons une nouvelle méthode pour l'apprentissage de représentations de mots à partir de grandes quantités de texte brut. Cette méthode repose sur un modèle probabiliste de la phrase, utilisant modèle de Markov caché et arbre de dépendance. Nous présentons un algorithme efficace pour réaliser l'inférence et l'apprentissage dans un tel modèle, fondé sur l'algorithme EM en ligne et la propagation de message approchée. Nous évaluons les modèles obtenus sur des taches intrinsèques, telles que prédire des jugements de similarité humains ou catégoriser des mots et deux taches extrinsèques~: la reconnaissance d'entités nommées et l'étiquetage en supersens. Dans la seconde partie, nous introduisons, dans le contexte des modèles linéaires, une nouvelle pénalité pour la sélection de variables en présence de prédicteurs fortement corrélés. Cette pénalité, appelée trace Lasso, utilise la norm trace des prédicteurs sélectionnés, qui est une relaxation convexe de leur rang, comme critère de complexité. Le trace Lasso interpole les normes ℓ 1 et ℓ 2. En particulier, lorsque tous les prédicteurs sont orthogonaux, il est égal à la norme ℓ 1, tandis que lorsque tous les prédicteurs sont égaux, il est égal à la norme ℓ 2. Nous proposons deux algorithmes pour calculer la solution du problème de régression aux moindres carrés régularisé par le trace Lasso et réalisons des expériences sur des données synthétiques
This thesis, which is organized in two independent parts, presents work on distributional semantics and on variable selection. In the first part, we introduce a new method for learning good word representations using large quantities of unlabeled sentences. The method is based on a probabilistic model of sentence, using a hidden Markov model and a syntactic dependency tree. The latent variables, which correspond to the nodes of the dependency tree, aim at capturing the meanings of the words. We develop an efficient algorithm to perform inference and learning in those models, based on online EM and approximate message passing. We then evaluate our models on intrinsic tasks such as predicting human similarity judgements or word categorization, and on two extrinsic tasks: named entity recognition and supersense tagging. In the second part, we introduce, in the context of linear models, a new penalty function to perform variable selection in the case of highly correlated predictors. This penalty, called the trace Lasso, uses the trace norm of the selected predictors, which is a convex surrogate of their rank, as the criterion of model complexity. The trace Lasso interpolates between the ℓ 1-norm and ℓ 2-norm. In particular, it is equal to the ℓ 1-norm if all predictors are orthogonal and to the ℓ 2-norm if all predictors are equal. We propose two algorithms to compute the solution of least-squares regression regularized by the trace Lasso, and perform experiments on synthetic datasets to illustrate the behavior of the trace Lasso

Cet article a pour objectif d’étudier le concept d’appropriation à travers l’analyse de la valence verbale dans les productions discursives populaires au Tchad. De fait, le français tel qu’il est parlé dans la rue au Tchad, porte les stigmates de ceux qui le parlent ou ceux qui s’y identifient. La présente étude se focalise sur les traits caractéristiques de l’environnement verbal d’un corpus regroupant une diversité de profils sélectionnés selon des techniques de collectes de terrain et traitées au prisme de l’approche distributionnelle de Bloomfield (1933) et de la sémantaxe de Manessy (1995) . Ladite étude permet d’identifier une valence spécifique attribuée au verbe et dont les origines sont intrinsèquement liées aux éléments structuraux des langues africaines.