Dissertations / Theses: 'Réseaux neuronaux pour les graphs'

1

Hafidi, Hakim. "Robust machine learning for Graphs/Networks." Electronic Thesis or Diss., Institut polytechnique de Paris, 2023. http://www.theses.fr/2023IPPAT004.

Full text

Abstract:

Cette thèse aborde les progrès de l’apprentissage des représentation des nœuds d’ungraphe, en se concentrant sur les défis et les opportunités présentées par les réseaux de neuronespour graphe (GNN). Elle met en évidence l’importance des graphes dans la représentation dessystèmes complexes et la nécessité d’apprendre des représentations de nœuds qui capturent à la fois les caractéristiques des nœuds et la structure des graphes. L’ étude identifie les problèmes clés des réseaux de neurones pour graphe, tels que leur dépendance à l’ ´égard de données étiquetées de haute qualité, l’incohérence des performances dansdivers ensembles de données et la vulnérabilité auxattaques adverses.Pour relever ces défis, la thèse introduit plusieursapproches innovantes. Tout d’abord, elle utilise l’apprentissage contrastif pour la représentation des nœuds, permettant un apprentissage auto-supervisé qui réduit la dépendance aux données étiquetées.Deuxièmement, un classificateur bayésien est proposé pour la classification des nœuds, qui prenden compte la structure du graphe pour améliorer la précision. Enfin, la thèse aborde la vulnérabilité des GNN aux attaques adversariaux en évaluant la robustesse du classificateur proposé et en introduisant des mécanismes de défense efficaces. Ces contributionsvisent à améliorer à la fois la performance et la résilience des GNN dans l’apprentissage de lareprésentation des nœuds
This thesis addresses advancements in graph representation learning, focusing on the challengesand opportunities presented by Graph Neural Networks (GNNs). It highlights the significanceof graphs in representing complex systems and the necessity of learning node embeddings that capture both node features and graph structure. The study identifies key issues in GNNs, such as their dependence on high-quality labeled data, inconsistent performanceacross various datasets, and susceptibility to adversarial attacks.To tackle these challenges, the thesis introduces several innovative approaches. Firstly, it employs contrastive learning for node representation, enabling self-supervised learning that reduces reliance on labeled data. Secondly, a Bayesian-based classifier isproposed for node classification, which considers the graph’s structure to enhance accuracy. Lastly, the thesis addresses the vulnerability of GNNs to adversarialattacks by assessing the robustness of the proposed classifier and introducing effective defense mechanisms.These contributions aim to improve both the performance and resilience of GNNs in graph representation learning

APA, Harvard, Vancouver, ISO, and other styles

2

Carboni, Lucrezia. "Graphes pour l’exploration des réseaux de neurones artificiels et de la connectivité cérébrale humaine." Electronic Thesis or Diss., Université Grenoble Alpes, 2023. http://www.theses.fr/2023GRALM060.

Full text

Abstract:

L'objectif principal de cette thèse est d'explorer la connectivité cérébrale et celle des réseaux de neurones artificiels d'un point de vue de leur connectivité. Un modèle par graphes pour l'analyse de la connectivité structurelle et fonctionnelle a été largement étudié dans le contexte du cerveau humain mais, un tel cadre d'analyse manque encore pour l'analyse des systèmes artificiels. Avec l'objectif d'intégrer l'analyse de la connectivité dans les système artificiels, cette recherche se concentre sur deux axes principaux. Dans le premier axe, l'objectif principal est de déterminer une caractérisation de la signature saine de la connectivité fonctionnelle de repos du cerveau humain. Pour atteindre cet objectif, une nouvelle méthode est proposée, intégrant des statistiques de graphe traditionnelles et des outils de réduction de réseau, pour déterminer des modèles de connectivité sains. Ainsi, nous construisons une comparaison en paires de graphes et un classifieur pour identifier les états pathologiques et identifier les régions cérébrales perturbées par une pathologie. De plus, la généralisation et la robustesse de la méthode proposée ont été étudiées sur plusieurs bases de données et variations de la qualité des données. Le deuxième axe de recherche explore les avantages de l'intégration des études de la connectivité inspirée du cerveau aux réseaux de neurones artificiels (ANNs) dans la perspective du développement de systèmes artificiels plus robustes. Un problème majeur de robustesse dans les modèles d'ANN est représenté par l'oubli catastrophique qui apparaît lorsque le réseau oublie dramatiquement les tâches précédemment apprises lors de l'adaptation à de nouvelles tâches. Notre travail démontre que la modélisation par graphes offre un cadre simple et élégant pour étudier les ANNs, comparer différentes stratégies d'apprentissage et détecter des comportements nuisibles tels que l'oubli catastrophique. De plus, nous soulignons le potentiel d'une adaptation à de nouvelles tâches en contrôlant les graphes afin d'atténuer efficacement l'oubli catastrophique et jetant ainsi les bases de futures recherches et explorations dans ce domaine
The main objective of this thesis is to explore brain and artificial neural network connectivity from agraph-based perspective. While structural and functional connectivity analysis has been extensivelystudied in the context of the human brain, there is a lack of a similar analysis framework in artificialsystems.To address this gap, this research focuses on two main axes.In the first axis, the main objective is to determine a healthy signature characterization of the humanbrain resting state functional connectivity. To achieve this objective, a novel framework is proposed,integrating traditional graph statistics and network reduction tools, to determine healthy connectivitypatterns. Hence, we build a graph pair-wise comparison and a classifier to identify pathological statesand rank associated perturbed brain regions. Additionally, the generalization and robustness of theproposed framework were investigated across multiple datasets and variations in data quality.The second research axis explores the benefits of brain-inspired connectivity exploration of artificialneural networks (ANNs) in the future perspective of more robust artificial systems development. Amajor robustness issue in ANN models is represented by catastrophic forgetting when the networkdramatically forgets previously learned tasks when adapting to new ones. Our work demonstrates thatgraph modeling offers a simple and elegant framework for investigating ANNs, comparing differentlearning strategies, and detecting deleterious behaviors such as catastrophic forgetting.Moreover, we explore the potential of leveraging graph-based insights to effectively mitigatecatastrophic forgetting, laying a foundation for future research and explorations in this area

APA, Harvard, Vancouver, ISO, and other styles

3

Khalife, Sammy. "Graphes, géométrie et représentations pour le langage et les réseaux d'entités." Thesis, Institut polytechnique de Paris, 2020. http://www.theses.fr/2020IPPAX055.

Full text

Abstract:

Le traitement informatique des objets qui nous entourent, naturels ou créés par l'homme, demande toujours de passer par une phase de traduction en entités traitables par des programmes. Le choix de ces représentations abstraites est toujours crucial pour l'efficacité des traitements et est le terrain d'améliorations constantes. Mais il est un autre aspect émergeant : le lien entre l'objet à représenter et "sa" représentation n'est pas forcément bijectif ! Ainsi la nature ambiguë de certaines structures discrètes pose problème pour la modélisation ainsi que le traitement et l'analyse à l'aide d'un programme informatique. Le langage dit ``naturel'', et sous sa forme en particulier de représentation textuelle, en est un exemple. Le sujet de cette thèse consiste à explorer cette question, que nous étudions à l'aide de méthodes combinatoires et géométriques. Ces méthodes nous permettent de formaliser le problème d'extraction d'information dans des grands réseaux d'entités ainsi que de construire des représentations géométriques utiles pour le traitement du langage naturel. Dans un premier temps, nous commençons par démontrer des propriétés combinatoires des graphes de séquences intervenant de manière implicite dans les modèles séquentiels. Ces propriétés concernent essentiellement le problème inverse de trouver une séquence représentant un graphe donné. Les algorithmes qui en découlent nous permettent d'effectuer une comparaison expérimentale de différents modèles séquentiels utilisés en modélisation du langage. Dans un second temps, nous considérons une application pour le problème d'identification d'entités nommées. A la suite d'une revue de solutions récentes, nous proposons une méthode compétitive basée sur la comparaison de structures de graphes de connaissances et moins coûteuse en annotations d'exemples dédiés au problème. Nous établissons également une analyse expérimentale d'influence d'entités à partir de relations capitalistiques. Cette analyse suggère l'élargissement du cadre d'application de l'identification d'entités à des bases de connaissances de natures différentes. Ces solutions sont aujourd'hui utilisées au sein d'une librairie logicielle dans le secteur bancaire. Ensuite, nous développons une étude géométrique de représentations de mots récemment proposées, au cours de laquelle nous discutons une conjecture géométrique théoriquement et expérimentalement. Cette étude suggère que les analogies du langage sont difficilement transposables en propriétés géométriques, et nous amène a considérer le paradigme de la géométrie des distances afin de construire de nouvelles représentations. Enfin, nous proposons une méthodologie basée sur le paradigme de la géométrie des distances afin de construire de nouvelles représentations de mots ou d'entités. Nous proposons des algorithmes de résolution de ce problème à grande échelle, qui nous permettent de construire des représentations interprétables et compétitives en performance pour des tâches extrinsèques. Plus généralement, nous proposons à travers ce paradigme un nouveau cadre et piste d'explorations pour la construction de représentations en apprentissage machine
The automated treatment of familiar objects, either natural or artifacts, always relies on a translation into entities manageable by computer programs. The choice of these abstract representations is always crucial for the efficiency of the treatments and receives the utmost attention from computer scientists and developers. However, another problem rises: the correspondence between the object to be treated and "its" representation is not necessarily one-to-one! Therefore, the ambiguous nature of certain discrete structures is problematic for their modeling as well as their processing and analysis with a program. Natural language, and in particular its textual representation, is an example. The subject of this thesis is to explore this question, which we approach using combinatorial and geometric methods. These methods allow us to address the problem of extracting information from large networks of entities and to construct representations useful for natural language processing.Firstly, we start by showing combinatorial properties of a family of graphs implicitly involved in sequential models. These properties essentially concern the inverse problem of finding a sequence representing a given graph. The resulting algorithms allow us to carry out an experimental comparison of different sequential models used in language modeling.Secondly, we consider an application for the problem of identifying named entities. Following a review of recent solutions, we propose a competitive method based on the comparison of knowledge graph structures which is less costly in annotating examples dedicated to the problem. We also establish an experimental analysis of the influence of entities from capital relations. This analysis suggests to broaden the framework for applying the identification of entities to knowledge bases of different natures. These solutions are used today in a software library in the banking sector.Then, we perform a geometric study of recently proposed representations of words, during which we discuss a geometric conjecture theoretically and experimentally. This study suggests that language analogies are difficult to transpose into geometric properties, and leads us to consider the paradigm of distance geometry in order to construct new representations.Finally, we propose a methodology based on the paradigm of distance geometry in order to build new representations of words or entities. We propose algorithms for solving this problem on some large scale instances, which allow us to build interpretable and competitive representations in performance for extrinsic tasks. More generally, we propose through this paradigm a new framework and research leadsfor the construction of representations in machine learning

APA, Harvard, Vancouver, ISO, and other styles

4

Hubert, Nicolas. "Mesure et enrichissement sémantiques des modèles à base d'embeddings pour la prédiction de liens dans les graphes de connaissances." Electronic Thesis or Diss., Université de Lorraine, 2024. http://www.theses.fr/2024LORR0059.

Full text

Abstract:

Les modèles d'embeddings à base de graphes de connaissances ont considérablement gagné en popularité ces dernières années. Ces modèles apprennent une représentation vectorielle des entités et des relations des graphes de connaissances (GCs). Cette thèse explore spécifiquement le progrès de tels modèles pour la tâche de prédiction de lien (PL), qui est d'une importance capitale car elle se retrouve dans plusieurs applications telles que les systèmes de recommandation. Dans cette thèse, divers défis liés à l'utilisation des modèles d'embeddings de GCs pour la PL sont identifiés : la rareté des ressources sémantiquement riches, la nature unidimensionnelle des cadres d'évaluation, et le manque de considérations sémantiques dans les approches d'apprentissage automatique. Cette thèse propose des solutions novatrices à ces défis. Premièrement, elle contribue au développement de ressources sémantiquement riches : les jeux de données principaux pour la prédiction de lien sont enrichis en utilisant des informations basées sur des schémas, EducOnto et EduKG sont proposés pour surmonter la pénurie de ressources dans le domaine éducatif, et PyGraft est introduit comme un outil innovant pour générer des ontologies synthétiques et des graphes de connaissances. Deuxièmement, la thèse propose une nouvelle métrique d'évaluation orientée sémantique, Sem@K, offrant une perspective multidimensionnelle sur la performance des modèles. Il est important de souligner que les modèles populaires sont réévalués en utilisant Sem@K, ce qui révèle des aspects essentiels et jusqu'alors inexplorés de leurs capacités respectives et souligne le besoin de cadres d'évaluation multidimensionnels. Troisièmement, la thèse se penche sur le développement d'approches neuro-symboliques, transcendant les paradigmes traditionnels de l'apprentissage automatique. Ces approches ne démontrent pas seulement une meilleure capacité sémantique dans leurs prédictions, mais étendent également leur utilité à diverses applications telles que les systèmes de recommandation. En résumé, le présent travail ne redéfinit pas seulement l'évaluation et la fonctionnalité des modèles d'embeddings de GCs, mais prépare également le terrain pour des systèmes d'intelligence artificielle plus polyvalents et interprétables, soutenant les explorations futures à l'intersection de l'apprentissage automatique et du raisonnement symbolique
Knowledge graph embedding models (KGEMs) have gained considerable traction in recent years. These models learn a vector representation of knowledge graph entities and relations, a.k.a. knowledge graph embeddings (KGEs). This thesis specifically explores the advancement of KGEMs for the link prediction (LP) task, which is of utmost importance as it underpins several downstream applications such as recommender systems. In this thesis, various challenges around the use of KGEMs for LP are identified: the scarcity of semantically rich resources, the unidimensional nature of evaluation frameworks, and the lack of semantic considerations in prevailing machine learning-based approaches. Central to this thesis is the proposition of novel solutions to these challenges. Firstly, the thesis contributes to the development of semantically rich resources: mainstream datasets for link prediction are enriched using schema-based information, EducOnto and EduKG are proposed to overcome the paucity of resources in the educational domain, and PyGraft is introduced as an innovative open-source tool for generating synthetic ontologies and knowledge graphs. Secondly, the thesis proposes a new semantic-oriented evaluation metric, Sem@K, offering a multi-dimensional perspective on model performance. Importantly, popular models are reassessed using Sem@K, which reveals essential insights into their respective capabilities and highlights the need for multi-faceted evaluation frameworks. Thirdly, the thesis delves into the development of neuro-symbolic approaches, transcending traditional machine learning paradigms. These approaches do not only demonstrate improved semantic awareness but also extend their utility to diverse applications such as recommender systems. In summary, the present work not only redefines the evaluation and functionality of knowledge graph embedding models but also sets the stage for more versatile, interpretable AI systems, underpinning future explorations at the intersection of machine learning and symbolic reasoning

APA, Harvard, Vancouver, ISO, and other styles

5

Bekkouch, Imad Eddine Ibrahim. "Auxiliary learning & Adversarial training pour les études des manuscrits médiévaux." Electronic Thesis or Diss., Sorbonne université, 2024. http://www.theses.fr/2024SORUL014.

Full text

Abstract:

Cette thèse se situe à l'intersection de la musicologie et de l'intelligence artificielle, et vise à exploiter l'IA pour aider les musicologues dans leur travail répétitif, comme la recherche d'objets dans les manuscrits du musée. Nous avons annoté quatre nouveaux ensembles de données pour l'étude des manuscrits médiévaux : AMIMO, AnnMusiconis, AnnVihuelas et MMSD. Dans la deuxième partie, nous améliorons les performances des détecteurs d'objets en utilisant des techniques de Transfer learning et de Few Shot Object Detection.Dans la troisième partie, nous discutons d'une approche puissante de Domain Adaptation, qui est auxiliary learning, où nous formons le modèle sur la tâche cible et une tâche supplémentaire qui permet une meilleure stabilisation du modèle et réduit le over-fitting.Enfin, nous abordons l'apprentissage auto-supervisé, qui n'utilise pas de méta-données supplémentaires en tirant parti de l'approche de adversarial learning, forçant le modèle à extraire des caractéristiques indépendantes du domaine
This thesis is at the intersection of musicology and artificial intelligence, aiming to leverage AI to help musicologists with repetitive work, such as object searching in the museum's manuscripts. We annotated four new datasets for medieval manuscript studies: AMIMO, AnnMusiconis, AnnVihuelas, and MMSD. In the second part, we improve object detectors' performances using Transfer learning techniques and Few Shot Object Detection.In the third part, we discuss a powerful approach to Domain Adaptation, which is auxiliary learning, where we train the model on the target task and an extra task that allows for better stabilization of the model and reduces over-fitting.Finally, we discuss self-supervised learning, which does not use extra meta-data by leveraging the adversarial learning approach, forcing the model to extract domain-independent features

APA, Harvard, Vancouver, ISO, and other styles

6

Mazari, Ahmed. "Apprentissage profond pour la reconnaissance d’actions en vidéos." Electronic Thesis or Diss., Sorbonne université, 2020. http://www.theses.fr/2020SORUS171.

Full text

Abstract:

De nos jours, les contenus vidéos sont omniprésents grâce à Internet et les smartphones, ainsi que les médias sociaux. De nombreuses applications de la vie quotidienne, telles que la vidéo surveillance et la description de contenus vidéos, ainsi que la compréhension de scènes visuelles, nécessitent des technologies sophistiquées pour traiter les données vidéos. Il devient nécessaire de développer des moyens automatiques pour analyser et interpréter la grande quantité de données vidéo disponibles. Dans cette thèse, nous nous intéressons à la reconnaissance d'actions dans les vidéos, c.a.d au problème de l'attribution de catégories d'actions aux séquences vidéos. Cela peut être considéré comme un ingrédient clé pour construire la prochaine génération de systèmes visuels. Nous l'abordons avec des méthodes d'intelligence artificielle, sous le paradigme de l'apprentissage automatique et de l'apprentissage profond, notamment les réseaux de neurones convolutifs. Les réseaux de neurones convolutifs actuels sont de plus en plus profonds, plus gourmands en données et leur succès est donc tributaire de l'abondance de données d'entraînement étiquetées. Les réseaux de neurones convolutifs s'appuient également sur le pooling qui réduit la dimensionnalité des couches de sortie (et donc atténue leur sensibilité à la disponibilité de données étiquetées)
Nowadays, video contents are ubiquitous through the popular use of internet and smartphones, as well as social media. Many daily life applications such as video surveillance and video captioning, as well as scene understanding require sophisticated technologies to process video data. It becomes of crucial importance to develop automatic means to analyze and to interpret the large amount of available video data. In this thesis, we are interested in video action recognition, i.e. the problem of assigning action categories to sequences of videos. This can be seen as a key ingredient to build the next generation of vision systems. It is tackled with AI frameworks, mainly with ML and Deep ConvNets. Current ConvNets are increasingly deeper, data-hungrier and this makes their success tributary of the abundance of labeled training data. ConvNets also rely on (max or average) pooling which reduces dimensionality of output layers (and hence attenuates their sensitivity to the availability of labeled data); however, this process may dilute the information of upstream convolutional layers and thereby affect the discrimination power of the trained video representations, especially when the learned action categories are fine-grained

APA, Harvard, Vancouver, ISO, and other styles

7

Aissa, Wafa. "Réseaux de modules neuronaux pour un raisonnement visuel compositionnel." Electronic Thesis or Diss., Paris, HESAM, 2023. http://www.theses.fr/2023HESAC033.

Full text

Abstract:

Cette thèse de doctorat porte sur le raisonnement visuel compositionnel. Lorsqu'on présente une paire image-question à un modèle de réseau de neurones, notre objectif est que le modèle réponde à la question en suivant une chaîne de raisonnement définie par un programme. Nous évaluons la capacité de raisonnement du modèle dans le cadre de la Question Réponse Visuelle (QRV). La QRV compositionnelle décompose les questions complexes en sous-problèmes modulaires plus simples. Ces sous-problèmes incluent des compétences de raisonnement telles que la détection d'objets et d'attributs, la détection de relations, les opérations logiques, le dénombrement et les comparaisons. Chaque sous-problème est attribué à un module différent. Cette approche décourage les raccourcis, exigeant une compréhension explicite du problème. Elle favorise également la transparence et l'explicabilité.Les réseaux de modules neuronaux (NMN) sont utilisés pour permettre un raisonnement compositionnel. Il sont basés sur un cadre de générateur-exécuteur, le générateur apprend la traduction de la question vers son programme de fonctions. L'exécuteur instancie un NMN où chaque fonction est attribuée à un module spécifique. Nous développons également un catalogue de modules neuronaux et définissons leurs fonctions et leurs structures. Les entraînements et les évaluations sont effectués sur l'ensemble de données GQA [3], qui comprend des questions, des programmes fonctionnels, des images et des réponses.L'une des principales contributions implique l'intégration de représentations pré-entraînées multi-modales dans la QRV modulaire. Cette intégration sert à initialiser le processus de raisonnement. Les expériences démontrent que les représentations multimodales surpassent les unimodales. Ceci permet de capturer des relations complexes intra-modales tout en facilitant l'alignement entre les différentes modalités, améliorant ainsi la précision globale de notre NMN.De plus, nous explorons différentes techniques d'entraînement pour améliorer le processus d'apprentissage et l'efficacité du coût de calcul. En plus d'optimiser les modules au sein de la chaîne de raisonnement pour produire collectivement des réponses précises, nous introduisons une approche d'apprentissage guidé pour optimiser les modules intermédiaires de la chaîne de raisonnement. Cela garantit que ces modules effectuent leurs sous-tâches de raisonnement spécifiques sans prendre de raccourcis ou compromettre l'intégrité du processus de raisonnement. L'une des techniques proposées s'inspire de la méthode d'apprentissage guidé couramment utilisée dans les modèles séquentiels. Des analyses comparatives démontrent les avantages de notre approche pour les NMN, comme détaillé dans notre article [1].Nous introduisons également une nouvelle stratégie d'apprentissage par Curriculum (CL) adaptée aux NMN pour réorganiser les exemples d'entraînement et définir une stratégie d'apprentissage progressif. Nous commençons par apprendre des programmes plus simples et augmentons progressivement la complexité des programmes d'entraînement. Nous utilisons plusieurs critères de difficulté pour définir l'approche du CL. Nos résultats montrent qu'en sélectionnant la méthode de CL appropriée, nous pouvons réduire considérablement le coût de l'entraînement et la quantité de données d'entraînement requise, avec un impact limité sur la précision finale de la QRV. Cette contribution importante constitue le cœur de notre article [2].[1] W. Aissa, M. Ferecatu, and M. Crucianu. Curriculum learning for compositional visual reasoning. In Proceedings of VISIGRAPP 2023, Volume 5: VISAPP, 2023.[2] W. Aissa, M. Ferecatu, and M. Crucianu. Multimodal representations for teacher-guidedcompositional visual reasoning. In Proceedings of ACIVS 2023. Springer International Publishing, 2023.[3] D. A. Hudson and C. D. Manning. GQA: A new dataset for real-world visual reasoning and compositional question answering. 2019
The context of this PhD thesis is compositional visual reasoning. When presented with an image and a question pair, our objective is to have neural networks models answer the question by following a reasoning chain defined by a program. We assess the model's reasoning ability through a Visual Question Answering (VQA) setup.Compositional VQA breaks down complex questions into modular easier sub-problems.These sub-problems include reasoning skills such as object and attribute detection, relation detection, logical operations, counting, and comparisons. Each sub-problem is assigned to a different module. This approach discourages shortcuts, demanding an explicit understanding of the problem. It also promotes transparency and explainability.Neural module networks (NMN) are used to enable compositional reasoning. The framework is based on a generator-executor framework, the generator learns the translation of the question to its function program. The executor instantiates a neural module network where each function is assigned to a specific module. We also design a neural modules catalog and define the function and the structure of each module. The training and evaluations are conducted using the pre-processed GQA dataset cite{gqa}, which includes natural language questions, functional programs representing the reasoning chain, images, and corresponding answers.The research contributions revolve around the establishment of an NMN framework for the VQA task.One primary contribution involves the integration of vision and language pre-trained (VLP) representations into modular VQA. This integration serves as a ``warm-start" mechanism for initializing the reasoning process.The experiments demonstrate that cross-modal vision and language representations outperform uni-modal ones. This utilization enables the capture of intricate relationships within each individual modality while also facilitating alignment between different modalities, consequently enhancing overall accuracy of our NMN.Moreover, we explore various training techniques to enhance the learning process and improve cost-efficiency. In addition to optimizing the modules within the reasoning chain to collaboratively produce accurate answers, we introduce a teacher-guidance approach to optimize the intermediate modules in the reasoning chain. This ensures that these modules perform their specific reasoning sub-tasks without taking shortcuts or compromising the reasoning process's integrity. We propose and implement several teacher-guidance techniques, one of which draws inspiration from the teacher-forcing method commonly used in sequential models. Comparative analyses demonstrate the advantages of our teacher-guidance approach for NMNs, as detailed in our paper [1].We also introduce a novel Curriculum Learning (CL) strategy tailored for NMNs to reorganize the training examples and define a start-small training strategy. We begin by learning simpler programs and progressively increase the complexity of the training programs. We use several difficulty criteria to define the CL approach. Our findings demonstrate that by selecting the appropriate CL method, we can significantly reduce the training cost and required training data, with only a limited impact on the final VQA accuracy. This significant contribution forms the core of our paper [2].[1] W. Aissa, M. Ferecatu, and M. Crucianu. Curriculum learning for compositional visual reasoning. In Proceedings of VISIGRAPP 2023, Volume 5: VISAPP, 2023.[2] W. Aissa, M. Ferecatu, and M. Crucianu. Multimodal representations for teacher-guidedcompositional visual reasoning. In Advanced Concepts for Intelligent Vision Systems, 21st International Conference (ACIVS 2023). Springer International Publishing, 2023.[3] D. A. Hudson and C. D. Manning. GQA: A new dataset for real-world visual reasoning and compositional question answering. 2019

APA, Harvard, Vancouver, ISO, and other styles

8

Foucher, Christophe. "Analyse et amélioration d'algorithmes neuronaux et non neuronaux de quantification vectorielle pour la compression d'images." Rennes 1, 2002. http://www.theses.fr/2002REN10120.

Full text

Abstract:

Dans le contexte de l'imagerie satellite, nous avons travaillé sur la quantification vectorielle (QV) qui permet un meilleur compromis qualité/compression avec un codage à longueur fixe, plus robuste. Pour guider le choix d'un algorithme, nous avons en analysé plusieurs selon leurs caractéristiques de fonctionnement et leurs performances. Certains ont été simulés sur des images réelles. Un point faible de la QV est la complexité algorithmique du codage. Les évaluations ont confirmé l'intérêt des techniques de QV avec contrainte pour la réduire mais au détriment de la qualité. C'est pourquoi nous avons proposé deux techniques d'accélération sans contrainte. La première utilise les corrélations intra-blocs pour accélérer la recherche par distorsion partielle grâce à une concentration préalable de la variance. La seconde utilise les corrélations inter-blocs grâce à l'organisation topologique d'un dictionnaire construit par carte auto-organisée.

APA, Harvard, Vancouver, ISO, and other styles

9

Henniges, Philippe. "PSO pour l'apprentissage supervisé des réseaux neuronaux de type fuzzy ARTMAP." Mémoire, École de technologie supérieure, 2006. http://espace.etsmtl.ca/508/1/HENNIGES_Pihilippe.pdf.

Full text

Abstract:

Dans ce mémoire, nous avons étudié les divers comportements d'un type de réseau de neurones en particulier, soit le réseau fuzzy ARTMAP (FAM), dans le but de développer une stratégie d'apprentissage spécialisée pour ce type de réseau. Pour ce faire, nous avons observé les effets de plusieurs caractéristiques sur ce type de réseau, soit: la taille de la base de données d'entraînement, les stratégies d'apprentissage standard, la technique de normalisation, la structure du chevauchement, la polarité du MatchTracking ainsi que l'influence des paramètres internes du réseau fuzzy ARTMAP. Ces effets sont mesurés au niveau de la qualité et des ressources utilisées par le réseau FAM à travers des bases de données synthétiques et réelles. Nous avons remarqué que le réseau FAM présente une dégradation de performances due à un effet de sur-apprentissage créé par le nombre de patrons d'entraînement et le nombre d'époques d'apprentissage, et ce, avec les bases de données possédant un degré de chevauchement. Pour éviter ce problème, nous avons développé une stratégie d'apprentissage spécialisée pour les réseaux FAM. Celle-ci permet d'améliorer les performances en généralisation en utilisant l'optimisation par essaims particulaires ou PSO (anglais pour "Particle Swarm Optimization") pour optimiser la valeur des quatre paramètres internes FAM (α, β, є et ρ). Cette stratégie spécialisée obtient lors de toutes nos simulations, tant avec les bases de données synthétiques que réelles, de meilleures performances en généralisation que lors de l'utilisation des stratégies d'apprentissage standard utilisant les paramètres standard des réseaux FAM (MT+, MT-). De plus, elle permet d'éliminer la majorité de l'erreur de sur-apprentissage due à la taille de la base d'entraînement et au nombre d'époques d'apprentissage. Ainsi, cette stratégie spécialisée pour FAM a démontré que la valeur des paramètres internes du réseau FAM a un impact considérable sur les performances du réseau. De plus, pour toutes les bases testées, les valeurs optimisées des paramètres sont généralement toutes éloignées de leurs valeurs standard (MT-et MT+), lesquelles sont majoritairement utilisées lors de l'emploi du réseau FAM. Cependant, cette stratégie d'apprentissage spécialisée n'est pas consistante avec la philosophie « on-line » de la famille ART, car la valeur des paramètres n'est pas optimisée séquentiellement. Malgré tout, elle permet d'indiquer les zones de performances optimales pouvant être atteintes par le réseau fuzzy ARTMAP. À notre connaissance, c'est la première fois qu'une stratégie d'apprentissage pour FAM utilise l'optimisation des valeurs des quatre paramètres internes de ce réseau.

APA, Harvard, Vancouver, ISO, and other styles

10

Quélavoine, Régis. "Etude de l'apprentissage et des structures des réseaux de neurones multicouches pour l'analyse de données." Avignon, 1997. http://www.theses.fr/1997AVIG0002.

Full text

Abstract:

Le probleme de la reconnaissance automatique des signaux transitoires en acoustique sous-marine est tres delicat : on ne connait pas les parametres pertinents, encore moins les regles de decision des experts humains qui ne sont pas infaillibles ! Les reseaux neuromimetiques sont capables de realiser en partie cette tache complexe, mais ils souffrent d'une image de boite noire qui rend l'utilisateur mefiant : quelles sont les regles de decision simulees ? Correspondent-elles a ce que nous attendons ? Pour repondre a ces questions, nous nous sommes interesses a l'etude de l'apprentissage et des structures des reseaux de neurones multicouches afin d'en extraire cette information manquante. Dans ce but, il nous a fallu aborder cinq etapes chronologiques dans l'apprentissage. Nous utilisons un pretraitement des donnees adapte aux reseaux de neurones, attenuant la saturation des noeuds, et augmentant le potentiel discriminant des parametres. En outre, une fois les entrees ramenees a la meme amplitude de variation, seuls les poids vont traduire l'importance des parametres. Nous reglons ensuite le probleme de la pollution des corpus par les erreurs d'etiquetage en pratiquant un apprentissage selectif, adaptation de la retropropagation du gradient. Cette technique isole automatiquement les exemples incoherents et evite de surcroit le sur-apprentissage. L'etape suivante est la selection des parametres pertinents pour une classification. Nous proposons un critere hierarchique issu de l'analyse des poids des reseaux, qui se montre plus precis que ceux proposes auparavant. Il mesure les capacites activatrice et inhibitrice de chaque entree. La hierarchie obtenue nous permet de detecter les biais reduisant la robustesse du systeme, et de les corriger en generant automatiquement des exemples types qui viendront completer le corpus. Cette phase est primordiale pour l'interpretation ulterieure des regles de decision apprises. La methode nous donne aussi un moyen de fabriquer artificiellement des corpus d'apprentissage performants et de taille reduite. Enfin, apres avoir construit un echantillon optimal d'apprentissage, nous pouvons determiner a partir d'un reseau les hyperplans correspondant aux regles de decision simulees. Nous obtenons alors un systeme equivalent d'inequations avec des performances comparables en reconnaissance. Ces techniques, appliquees a differents cas d'ecole ou au difficile probleme des signaux transitoires, conduisent a des gains significatifs en vitesse d'apprentissage et en qualite de la generalisation. Outre une meilleure maitrise des reseaux de neurones, elles ouvrent des perspectives interessantes d'application dans de nombreux domaines ou notre connaissance reste insuffisante

APA, Harvard, Vancouver, ISO, and other styles

11

Vo, Thi Quynh Trang. "Algorithms and Machine Learning for fair and classical combinatorial optimization." Electronic Thesis or Diss., Université Clermont Auvergne (2021-...), 2024. http://www.theses.fr/2024UCFA0035.

Full text

Abstract:

L'optimisation combinatoire est un domaine des mathématiques dans lequel un problème consiste à trouver une solution optimale dans un ensemble fini d'objets. Elle a des applications cruciales dans de nombreux domaines. Le branch-and-cut est l'un des algorithmes les plus utilisés pour résoudre exactement des problèmes d'optimisation combinatoire. Dans cette thèse, nous nous concentrons sur les aspects informatiques du branch-and-cut et plus particulièrement, sur deux aspects importants de l'optimisation combinatoire: l'équité des solutions et l'intégration de l'apprentissage automatique. Dans la partie I, nous étudions deux approches courantes pour traiter la question de l'équité dans l'optimisation combinatoire, qui a fait l'objet d'une attention particulière au cours des dernières décennies. La première approche est l'optimisation combinatoire équilibrée, qui trouve une solution équitable en minimisant la différence entre les plus grands et les plus petits composants utilisés. En raison des difficultés à délimiter ces composants, aucun cadre général exact basé sur la programmation linéaire en nombres entiers mixtes (MILP) n'a été proposé pour l'optimisation combinatoire équilibrée. Pour combler cette lacune, nous présentons au chapitre 3 une nouvelle classe de plans de coupe locaux adaptés aux problèmes d'optimisation combinatoire équilibrée pour l'algorithme du branch-and-cut. Nous démontrons l'efficacité de la méthode proposée dans la cadre du problème du voyageur de commerce équilibré. Notamment, nous introduisons des algorithmes pour trouver des bornes et des mécanismes pour la détermination des variables afin d'accélérer un peu plus les performances. Une deuxième approche pour traiter l'équité est l'optimisation combinatoire Ordered Weighted Average (OWA), qui utilise l'opérateur OWA dans la fonction objectif. En raison de l'opérateur d'ordonnancement, l'optimisation combinatoire OWA est non linéaire, même si ses contraintes d'origine sont linéaires. Deux formulations MILP de tailles différentes ont été introduites dans la littérature pour linéariser l'opérateur OWA. Cependant, la formulation la plus performante pour l'optimisation combinatoire OWA reste incertaine, car l'intégration des méthodes de linéarisation peut introduire des difficultés supplémentaires. Dans le chapitre 4, nous fournissons des comparaisons théoriques et empiriques des deux formulations MILP pour l'optimisation combinatoire OWA. En particulier, nous prouvons que les formulations sont équivalentes en termes de relaxation de programmation linéaire. Nous montrons empiriquement que pour les problèmes d'optimisation combinatoire OWA, la formulation avec le plus de variables peut être résolue plus rapidement avec le branch-and-cut. Dans la partie II, nous développons des méthodes d'application de l'apprentissage automatique pour améliorer les problèmes de décision fondamentaux du branch-and-cut, en mettant l'accent sur la génération de coupes. Ce dernier problème se réfère à la décision de générer des coupes ou des branches à chaque nœud de l'arbre de recherche. Nous démontrons empiriquement que cette décision a un impact significatif sur les performances du branch-and-cut, en particulier pour les coupes combinatoires qui exploitent les faces de la coque convexe des solutions réalisables. Nous proposons ensuite un cadre général combinant l'apprentissage supervisé et l'apprentissage par renforcement afin d'apprendre des stratégies efficaces pour générer des coupes combinatoires dans la méthode branch-and-cut. Notre cadre comporte deux composantes : un détecteur de coupes pour prédire l'existence de coupes et un évaluateur de coupes pour choisir entre la génération de coupes et le branchement. Enfin, nous fournissons des résultats expérimentaux montrant que la méthode proposée est plus performante que les stratégies couramment utilisées pour la génération de coupes, même sur des instances plus grandes que celles utilisées pour l'apprentissage
Combinatorial optimization is a field of mathematics that searches for an optimal solution in a finite set of objects. It has crucial applications in many fields, including applied mathematics, software engineering, theoretical computer science, and machine learning. extit{Branch-and-cut} is one of the most widely-used algorithms for solving combinatorial optimization problems exactly. In this thesis, we focus on the computational aspects of branch-and-cut when studying two critical dimensions of combinatorial optimization: extit{the fairness of solutions} and extit{the integration of machine learning}.In Partef{part:1} (Chaptersef{chap:bnc-btsp} andef{chap:owa}), we study two common approaches to deal with the issue of fairness in combinatorial optimization, which has gained significant attention in the past decades. The first approach is extit{balanced combinatorial optimization}, which finds a fair solution by minimizing the difference between the largest and smallest components used. Due to the difficulties in bounding these components, to the best of our knowledge, no general exact framework based on mixed-integer linear programming (MILP) has been proposed for balanced combinatorial optimization. To address this gap, in Chapteref{chap:bnc-btsp}, we present a branch-and-cut algorithm and a novel class of local cutting planes tailored for balanced combinatorial optimization problems. We demonstrate the effectiveness of the proposed framework in the Balanced Traveling Salesman Problem. Additionally, we introduce bounding algorithms and mechanisms to fix variables to accelerate performance further.The second approach to handling the issue of fairness is extit{Ordered Weighted Average (OWA) combinatorial optimization}, which integrates the OWA operator into the objective function. Due to the ordering operator, OWA combinatorial optimization is nonlinear, even if its original constraints are linear. Two MILP formulations of different sizes have been introduced in the literature to linearize the OWA operator. However, which formulation performs best for OWA combinatorial optimization remains uncertain, as integrating the linearization methods may introduce additional difficulties. In Chapteref{chap:owa}, we provide theoretical and empirical comparisons of the two MILP formulations for OWA combinatorial optimization. In particular, we prove that the formulations are equivalent in terms of the linear programming relaxation. We empirically show that for OWA combinatorial optimization problems, the formulation with more variables can be solved faster with branch-and-cut.In Partef{part:2} (Chapteref{chap:mlbnc}), we develop methods for applying machine learning to enhance fundamental decision problems in branch-and-cut, with a focus on cut generation. Cut generation refers to the decision of whether to generate cuts or to branch at each node of the search tree. We empirically demonstrate that this decision significantly impacts branch-and-cut performance, especially for combinatorial cuts that exploit the facial structure of the convex hull of feasible solutions. We then propose a general framework combining supervised and reinforcement learning to learn effective strategies for generating combinatorial cuts in branch-and-cut. Our framework has two components: a cut detector to predict cut existence and a cut evaluator to choose between generating cuts and branching. Finally, we provide experimental results showing that the proposed method outperforms commonly used strategies for cut generation, even on instances larger than those used for training

APA, Harvard, Vancouver, ISO, and other styles

12

Maktoobi, Sheler. "Couplage diffractif pour réseaux de neurones optiques." Thesis, Bourgogne Franche-Comté, 2020. http://www.theses.fr/2020UBFCD019.

Full text

Abstract:

Les réseaux photoniques à haute performance peuvent être considérés comme des supports pour les futurs systèmes de calcul. Contrairement à l'électronique, les systèmes photoniques offrent des avantages intéressants, par exemple la possibilité de réaliser des réseaux complètement parallèles. Récemment, les réseaux de neurones ont attiré l'attention de la communauté photonique. L'une des difficultés les plus importantes, en matière de réseaux photoniques parallèles à grande échelle, est la réalisation des connexions. La diffraction est exploitée ici comme méthode pour traiter les connexions entre les nœuds (couplage) dans les réseaux de neurones optiques. Dans cette thèse, nous étudions l'extensibilité d'un couplage diffractif en détails de la façon suivante :Tout d'abord, nous commençons par une introduction générale à propos de l'intelligence artificielle, de l'apprentissage machine, des réseaux de neurones artificiels et des réseaux de neurones photoniques. Lors de la conception d'un réseau neuronal fonctionnel, les règles de l'apprentissage machine sont des éléments essentiels pour optimiser une configuration et ainsi obtenir une faible erreur du système, donc les règles de l'apprentissage sont introduites (chapitre 1). Nous étudions les concepts fondamentaux du couplage diffractif dans notre réservoir spatio-temporel. Dans ce cas, la théorie de la diffraction est expliquée. Nous utilisons un schéma analytique pour fournir les limites en termes de taille des réseaux diffractifs, qui font partie intégrante de notre réseau neuronal photonique (chapitre 2). Les concepts du couplage diffractif sont étudiés expérimentalement dans deux expériences différentes afin de confirmer les limites obtenues analytiquement, et pour déterminer le nombre maximum de nœuds pouvant être couplés dans le réseau photonique (Chapitre 3). Les simulations numériques d'une telle expérience sont basées sur deux schémas différents pour calculer numériquement la taille maximale du réseau, qui approche une surface de 100 mm2 (chapitre 4). Enfin, l'ensemble du réseau neuronal photonique est démontré. Nous concevons un réservoir spatialement étendu sur 900 nœuds. En conséquence, notre système généralise la prédiction pour la séquence chaotique de Mackey-Glass (chapitre 5)
Photonic networks with high performance can be considered as substrates for future computing systems. In comparison with electronics, photonic systems have substantial privileges, for instance the possibility of a fully parallel implementation of networks. Recently, neural networks have moved into the center of attention of the photonic community. One of the most important requirements for parallel large-scale photonic networks is to realize the connectivities. Diffraction is considered as a method to process the connections between the nodes (coupling) in optical neural networks. In the current thesis, we evaluate the scalability of a diffractive coupling in more details as follow:First, we begin with a general introductions for artificial intelligence, machine learning, artificial neural network and photonic neural networks. To establish a working neural network, learning rules are an essential part to optimize a configuration for obtaining a low error from the system, hence learning rules are introduced (Chapter 1). We investigate the fundamental concepts of diffractive coupling in our spatio-temporal reservoir. In that case, theory of diffraction is explained. We use an analytical scheme to provide the limits for the size of diffractive networks which is a part of our photonic neural network (Chapter 2). The concepts of diffractive coupling are investigated experimentally by two different experiments to confirm the analytical limits and to obtain maximum number of nodes which can be coupled in the photonic network (Chapter 3). Numerical simulations for such an experimental setup is modeled in two different schemes to obtain the maximum size of network numerically, which approaches a surface of 100 mm2 (Chapter 4). Finally, the complete photonic neural network is demonstrated. We design a spatially extended reservoir for 900 nodes. Consequently, our system generalizes the prediction for the chaotic Mackey–Glass sequence (Chapter 5)

APA, Harvard, Vancouver, ISO, and other styles

13

Kara, Reda. "Une Approche modulaire du réseau de neurones CMAC pour la commande d'un système robot-vision." Mulhouse, 2002. http://www.theses.fr/2002MULH0704.

Full text

Abstract:

Ce travail de thèse explore les capacités des réseaux de neurones à estimer les fonctions robotiques pour réaliser des contrôleurs performants. Nous proposons une approche de l'asservissement visuel dite adaptative qui repose sur l'utilisation du réseau de neurones CMAC ("Cerebellar Model Articulation Controller"). En dépit des propriétés attractives, ce réseau présente deux problèmes : une sortie discrète, ainsi qu'une taille liée directement à la précision souhaitée. De ce fait, nous avons formalisé 2 architectures neuronales modulaires : le réseau HCMAC ("Hierarchical CMAC") et le réseau AL_CMAC ("Adaptive Linear CMAC"). Leur principe repose sur une combinaison de plusieurs réseaux de neurones de plus petite taille. Les contrôleurs neuronaux modulaires sont évalués et validés dans des applications d'asservissement visuel d'un robot trois axes (positionnement et la poursuite de cibles. Leurs performances sont comparées à celles du réseau CMAC et du réseau SSOM ("Supervised Self-Organizing Maps")
The work of this thesis investigates artificial neural networks capabilities to estimate robotic functions, and their performances as controllers. We propose an adaptive visual servoing scheme based on the CMAC ("Cerebellar Model Articulation Controller") network. The CMAC network is thus well suited for robot control but in practice there are two drawbacks: its output is "discrete" and its precision depends on its size. Thus, we have developed two modular neural : the HCMAC ("Hierarchical CMAC") and the AL_CMAC ("Adaptive Linear CMAC"). These two networks are a combination of networks of small size. The efficiency of the HCMAC and AL_CMAC neuro-controller is validated through visual servoing experiments with a three degrees of freedom robot arm and with a two camera vision system. Visual servoing experiments consist in positioning tasks and in tracking mobile objects. The performances are compared to other neuro-controllers like CMAC and SSOM ("Supervised Self-Organizing Maps") networks

APA, Harvard, Vancouver, ISO, and other styles

14

Alché-Buc, Florence d'. "Modèles neuronaux et algorithmes constructifs pour l'apprentissage de règles de décision." Paris 11, 1993. http://www.theses.fr/1993PA112468.

Full text

Abstract:

La thèse porte sur l'apprentissage supervisé de règles de classification et de contrôle des méthodes neuronales. Il s'agit, d'une part, de proposer des architectures neuronales adaptées pour l'inférence et le codage de règles et d'autre part, de développer des algorithmes d'apprentissage et de construction de ces réseaux. Deux travaux sont présentés : le premier travail concerne l'apprentissage de règles de contrôle par un réseau Neuroflou multicouches formellement équivalent à un contrôleur flou. Un algorithme d'apprentissage est proposé pour déterminer les paramètres du réseau : il est fondé sur la retro propagation du gradient d'une fonction de coût que l'on a choisie de manière à apprendre une base de règles, correcte, consistance et complète. Une procédure d'apprentissage en trois étapes permet d'apprendre successivement les paramètres du réseau et de trouver automatiquement un nombre suffisant de conditions intervenant dans les règles. Cet algorithme a été testé avec succès sur l'apprentissage du contrôle d'un pendule inversé. Le second travail porte sur la construction d'arbres hybrides de décision. Les arbres hybrides généralisent les arbres de neurones : les noeuds internes segmentent l'espace de décision en régions dans lesquelles les noeuds terminaux effectuent la classification. La construction et l'élagage de ces arbres sont illustrés sur des problèmes de classification de caractères manuscrits

APA, Harvard, Vancouver, ISO, and other styles

15

Maghrebi, Fatine. "Modèles de réseaux de neurones pour la commande des carrefours à feux." Paris 1, 1994. http://www.theses.fr/1994PA010082.

Full text

APA, Harvard, Vancouver, ISO, and other styles

16

Bétrouni, Mohamed. "Réseaux de neurones pour la projection plane de données multidimensionnelles et pour le suivi de procédés industriels." Lille 1, 1999. https://pepite-depot.univ-lille.fr/LIBRE/Th_Num/1999/50376-1999-21.pdf.

Full text

Abstract:

Ce travail présente une synthèse des méthodes de projection plane basées sur des architectures neuronales à apprentissages non supervisés. Selon leurs architectures et leurs techniques d'apprentissages, les réseaux réalisent une analyse en composantes principales linéaire (apprentissage par la règle de Hebb) ou non linéaire (apprentissage par la rétropropagation du gradient). Notre contribution concerne la sélection automatique du nombre de neurones sur les couches cachées par des critères informationnels. Nous avons exploité les réseaux de neurones dans le cadre de deux applications industrielles. La première a porté sur la détection de glaçures sur les goulots de bouteilles en verre. Après la phase d'analyse d'images pour l'extraction des attributs pertinents, différentes architectures ont été exposées pour la décision et leurs performances comparées sur des exemples réels. La seconde application industrielle a consisté à analyser les spectres de signaux provenant d'accéléromètres installés sur certains éléments d'une éolienne pilote en vue de la prédiction d'un dysfonctionnements éventuel. Pour ce faire, un réseau de neurones autoassociateur a été employé pour suivre le fonctionnement normal de l'éolienne.

APA, Harvard, Vancouver, ISO, and other styles

17

Colnet, Brigitte. "Approches neuromimétiques pour la localisation de sources acoustiques." Nancy 1, 1995. http://www.theses.fr/1995NAN10415.

Full text

Abstract:

Cette thèse propose des solutions neuromimétiques originales au problème de la localisation de sources acoustiques. Nous considérons un modèle de propagation d'ondes planes. L'information pertinente est une information spatio-temporelle : la connaissance du retard de propagation entre les capteurs permet de retrouver la direction d'arrivée du signal. Pour traiter ce type d'informations, le temps doit être codé dans les réseaux de neurones. Deux représentations sont envisagées : la représentation externe, où le temps apparaît comme une dimension supplémentaire de l'espace d'entrée, et la représentation interne où le temps est codé par la succession des états du réseau. La stratégie adoptée pour résoudre le problème de la localisation de sources s'inspire des systèmes biologiques de perception. A un niveau local, des réseaux de neurones spécialisés détectent si une source se trouve dans un secteur particulier de l'horizon et les réponses de tous les réseaux sont intégrées à un plus haut nivrau de traitement. Au niveau local, nous construisons tout d'abord un ensemble de perceptrons multi-couches qui représentent le temps de manière externe. Nous introduisons dans le réseau la connaissance par la topologie spécifique et originale des connexions. La représentation externe et statique du temps limite la capacité de mémorisation du réseau. Pour tenir compte de la nature dynamique du signal et des caractéristiques des retards de propagation nous adaptons l'architecture de réseaux avec des unités à retards en spécialisant la connectivité. Nous nous intéressons également à la représentation interne du temps dans les réseaux récurrents. Ceux-ci gardent la trace des évènements passés grâce aux connexions récurrentes des unités de contexte sur elles-mêmes et aux connexions rétro-actives. Il apparaît que ce type de réseau est également capable de relier entre eux les évènements temporels mémorisés. Les différentes approches neuromimétiques proposées sont comparées à l'approche classique qu'est la formation de voies. Les résultats obtenus sur des signaux simulés et réels sont tout à fait satisfaisants. Les réseaux de neurones montrent une bonne robustesse locale au bruit et globalement la précision de la localisation est meilleure que la formation de voies

APA, Harvard, Vancouver, ISO, and other styles

18

Novytskyy, Dmytro. "Méthodes géométriques pour la mémoire et l'apprentissage." Toulouse 3, 2007. http://www.theses.fr/2007TOU30152.

Full text

Abstract:

Cette thèse est consacrée aux méthodes géométriques dans l'optimisation, l'apprentissage et les réseaux neuronaux. Dans beaucoup de problèmes de l'apprentissage (supervises et non supervises), de la reconnaissance des formes, et du groupage, il y a un besoin de tenir en compte de la structure interne (intrinsèque) de l'espace fondamental, qui n'est pas toujours euclidien. Pour les variétés Riemanniennes nous construisons des algorithmes pour la méthode de Newton, les méthodes de gradients conjugues, et certaines méthodes non-lisses d'optimisation comme r-algorithme. A cette fin nous développons des méthodes pour le calcul des géodésiques dans les sous-maîtres bases sur des équations de Hamilton et l'intégration symplectique. Apres nous construisons un nouveau type avec de la mémoire associative neuronale capable de l'apprentissage non supervise et du groupage (clustering). Son apprentissage est base sur moyennage généralise dans les variétés de Grassmann. Future extension de cette mémoire implique les machines a noyaux et transformations de l'espace implicites. Aussi nous considérons des algorithmes géométriques pour le traitement des signaux et le filtrage adaptatif. Les méthodes proposées sont testées avec des exemples standard et avec des problèmes réels de reconnaissance des images et du traitement des signaux. L'application des réseaux neurologiques proposes est démontrée pour un projet réel complet de la reconnaissance des images chimiques (nez électronique)
This thesis is devoted to geometric methods in optimization, learning and neural networks. In many problems of (supervised and unsupervised) learning, pattern recognition, and clustering there is a need to take into account the internal (intrinsic) structure of the underlying space, which is not necessary Euclidean. For Riemannian manifolds we construct computational algorithms for Newton method, conjugate-gradient methods, and some non-smooth optimization methods like the r-algorithm. For this purpose we develop methods for geodesic calculation in submanifolds based on Hamilton equations and symplectic integration. Then we construct a new type of neural associative memory capable of unsupervised learning and clustering. Its learning is based on generalized averaging over Grassmann manifolds. Further extension of this memory involves implicit space transformation and kernel machines. Also we consider geometric algorithms for signal processing and adaptive filtering. Proposed methods are tested for academic examples as well as real-life problems of image recognition and signal processing. Application of proposed neural networks is demonstrated for a complete real-life project of chemical image recognition (electronic nose)

APA, Harvard, Vancouver, ISO, and other styles

19

Monrocq, Christophe. "Approche probabiliste pour l'élaboration et la validation de systèmes de décision : application aux réseaux neuronaux." Paris 9, 1994. https://portail.bu.dauphine.fr/fileviewer/index.php?doc=1994PA090012.

Full text

Abstract:

Cette thèse étudie les liens entre l'apprentissage supervisé et la régression. Comme exemple d'application, nous avons choisi les réseaux neuronaux de type perceptron multicouches pour résoudre des problèmes de discrimination et plus généralement d'approximation de fonctions. L'approche qui consiste à relier l'apprentissage supervisé et la régression, possède deux avantages: d'une part elle permet d'expliquer comment le formalisme de la théorie bayésienne de la décision peut être introduit dans le cadre de la discrimination; d'autre part elle permet d'utiliser des outils issus de la statistique. Le lien avec la théorie bayésienne est à l'origine de nouvelles approches modulaires pour résoudre des problèmes de discrimination, d'où une meilleure compréhension des structures de la base de données et un meilleur contrôle des qualités d'apprentissage (chaque module expert résout une tache locale de discrimination). A partir d'outils issus de la statistique, nous avons étudié les propriétés asymptotiques des estimateurs obtenus en régression non linéaire. Cette approche nous a permis de proposer de nouveaux outils pour concevoir et valider des systèmes élaborés lors d'un apprentissage supervisé. L'objectif principal est alors d'adapter la complexité du système à la quantité d'information (pertinente) présente dans l'échantillon d'apprentissage. Cet objectif nous amènera à présenter la notion de généralisation, qui caractérise la qualité d'approximation de la fonction de régression (l’espérance conditionnelle), i. E. Le comportement du système sur des données futures suivant la même loi que les données d'apprentissage. Cette thèse essaie de mettre en valeur en second point important: une procédure d'apprentissage sur un échantillon de taille finie est composée de deux étapes: 1) un algorithme d'optimisation pour déterminer les paramètres du système qui minimiserons une fonction d'erreur; 2) évaluer les capacités de généralisation du système (car il s'agit d'apprendre une relation statistique)

APA, Harvard, Vancouver, ISO, and other styles

20

Rochel, Olivier. "Une approche événementielle pour la modélisation et la simulation de réseaux de neurones impulsionnels." Nancy 1, 2004. http://www.theses.fr/2004NAN10004.

Full text

Abstract:

Cette thèse est bâtie sur le constat de l'absence d'outils génériques adaptés à la modélisation et la simulation de grands réseaux de neurones impulsionnels. Une première partie de la thèse est consacrée à la présentation des modèles existants. Dans ces modèles, les impulsions se traduisent par des discontinuités dans la dynamique des neurones. Ces discontinuités sont à la source de difficultés de modélisation et de simulation. Nous présentons dans une seconde partie une nouvelle approche, basée sur la notion de système à événements discrets, utilisant le formalisme DEVS. Elle permet de prendre en considération une large classe de modèles de neurones et autorise la construction de réseaux structurés de grande taille. Un outil de simulation utilisant un algorithme de simulation événementiel a été développé et évalué sur machines séquentielles et parallèles. Nous avons également évalué la pertinence de notre approche dans le cadre d'un projet multidisciplinaire sur l'olfaction
At present, there exists no generic modeling and simulation framework that addresses the study of large spiking neural networks. In the existing models, the impulses are generally associated with discontinuities in the otherwise continuous dynamics of the neurons. This raises modeling and practical implementation issues. We propose an novel approach based on the discrete-event system abstraction, grounded on the DEVS formalism, that can be used to represent a large class of spiking neurons and permits the modeling of large networks. A simulation engine has been developed on top of this formalism. It is based on an efficient event-driven algorithm and has been evaluated on sequential as well as parallel machines. We have tested our approach within a multi-disciplinary project on olfactory perception

APA, Harvard, Vancouver, ISO, and other styles

21

Malek, Maria. "Un modèle hybride de mémoire pour le raisonnement à partir de cas." Université Joseph Fourier (Grenoble), 1996. http://www.theses.fr/1996GRE10186.

Full text

Abstract:

Nous étudions dans cette thèse les notions liées à la mémoire dans les systèmes de raisonnement à partir de cas (RàPC) et dans les réseaux neuronaux à base de prototypes. Nous détaillons les différents modèles de mémoire proposés dans la littérature des systèmes utilisant le RàPC et nous analysons les avantages ainsi que les inconvénients posés par ces modèles. Cette analyse nous conduit à étudier également les approches connexionnistes pour la modélisation de la mémoire et plus particuliérement des réseaux de neurones à base de prototypes. A partir de l'étude et de l'analyse de plusieurs modèles de réseaux neuronaux à base d'exemples ou de prototypes, plusieurs avantages seront notés en terme d'efficacité de remémoration et de simplicité de mémorisation par rapport aux modèles classiques. Néanmoins, ces approches souffrent de certains inconvénients qui sont liés aux problèmes de l'oubli et aux cas frontières et atypiques. L'ensemble de ces études nous améneront à proposer un modèle hybride de mémoire appelé ProBIS intégrant un réseau de neurones à base de prototypes et un modèle de mémoire classique. ProBIS permet de combiner les avantages de ses deux composants. Les cas sont organisés en deux niveaux de hiérarchie. Le haut niveau est constitué des prototypes créés par le réseau. Le bas niveau est une mémoire plate partitionnée en plusieurs groupes. ProBIS constitue un moyen efficace qui permet d'organiser la mémoire afin de garantir un apprentissage simple et incrémental, une remémoration efficace et un traitement des cas atypiques et frontières. ProBIS est évalué et comparé avec d'autres modèles de mémoire sur une application médicale réelle concernant le domaine des comas toxiques.

APA, Harvard, Vancouver, ISO, and other styles

22

Bigot, Pascal. "Utilisation des réseaux de neurones pour la télégestion des réseaux techniques urbains." Lyon 1, 1995. http://www.theses.fr/1995LYO10036.

Full text

Abstract:

La telegestion des reseaux techniques urbains fait appel a des techniques de reconnaissance de formes: etant donnee une image de l'etat du reseau, determiner si il fonctionne correctement ou non. Une methode employee pour resoudre ce type de probleme fait appel aux reseaux de neurones. Nous definissons une methodologie de construction de l'architecture employee afin d'obtenir des capacites de generalisation satisfaisantes. On s'oriente vers un reseau multicouches et l'algorithme de retropropagation du gradient. Nous precisons aussi une methodologie d'elaboration des bases d'apprentissage qui tienne compte de la nature numerique des donnees utilisees et, en particulier, des sources d'incertitudes qui les caracterisent. Celles-ci sont d'ordre physique (erreurs dues a l'imprecision des mesures et a la presence de bruit) et d'ordre statistique (erreurs dues a des previsions de grandeurs non mesurables). La methode utilisee suppose que l'on peut mesurer tous les parametres necessaires a sa mise en uvre. Ce qui n'est pas le cas dans la pratique. C'est pourquoi nous explorons differentes techniques de selection des parametres mesures et nous etudions les degradations eventuelles des capacites de detection. Nous etudions ensuite un systeme de localisation geographique des anomalies qui utilise les reseaux de neurones. On en montre les limitations. Cette approche est experimentee sur un reseau de distribution d'eau potable. Nous developpons d'autre part une etude theorique sur les relations qui existent entre les fonctions calculables par un reseau de neurones et celles qui sont calculables par un arbre binaire de decision. Ceci nous conduit a des algorithmes d'apprentissage pour des reseaux de neurones dont l'architecture (le nombre de neurones par couches) est variable

APA, Harvard, Vancouver, ISO, and other styles

23

Robitaille, Louis-Emile. "Réseaux de neurones pour l'apprentissage de la préférence en microscopie super-résolution." Master's thesis, Université Laval, 2021. http://hdl.handle.net/20.500.11794/68744.

Full text

Abstract:

Pendant plusieurs années, la microscopie à fluorescence a été limitée par le phénomène de diffraction. Or, pour étudier des phénomènes dynamiques à l’intérieur des cellules, une résolution nanométrique est souvent nécessaire. Pour ce faire, une avancée importante pour la microscopie super-résolution fut l’invention du microscope à déplétion par émission stimulée(STED pour STimulated-Emission-Depletion) (Hell and Wichmann, 1994). Si la microscopieSTED permet d’atteindre la précision nanométrique, celle-ci consiste en une technique extrêmement sophistiquée et son utilisation requiert des connaissances avancées dans plusieurs domaines, par exemple, la physique, la chimie et la biologie. Dans le but de rendre le microscope plus accessible, Durand et al. (2018) tire profit des dernières avancées en intelligence artificielle pour automatiser le paramétrage du STED à l’aide d’une boucle d’optimisation. L’objectif visé est de produire des images avec la plus haute qualité tout en minimisant le photo blanchiment et le temps d’exposition. L’incapacité de mesurer la qualité des images et de choisir un compromis parmi les objectifs nécessite malheureusement toujours la présence d’un expert derrière le microscope. En automatisant l’évaluation de la qualité des images et la sélection de compromis, ce mémoire vise à montrer le potentiel des réseaux de neurones pour l’apprentissage de la préférence en sciences de la vie.
For many years, fluorescent microscopy has been limited by diffraction. However, to study dynamic phenomena inside cells, a nanometric resolution is often necessary. To cope with this problem, an important development for fluorescent microscopy was the invention ofSTimulated-Emission-Depletion microscopy (STED) (Hell and Wichmann, 1994). If STEDachieves nanometric microscopy, it is also an extremely sophisticated technique that requires advanced knowledge across a wide range of domains, e.g. physics, chemistry and biology. With the goal of democratising the microscope, Durand et al. (2018) use the last development in artificial intelligence to automate STED parameterization with an optimisation loop. The objective aimed is to produce high-quality images while minimising photo bleaching and exposition time. The inability of measuring image quality and of choosing between compromise among objectives still forces an expert to stay behind the microscope. By automating the assessment of image quality and the selection of compromise, this master thesis intends to demonstrate the potential of neural networks for preference learning in life science.

APA, Harvard, Vancouver, ISO, and other styles

24

Zaïdi, Abdelaziz. "Intégration des réseaux bayésiens et bond graphs pour la supervision des systèmes dynamiques." Thesis, Lille 1, 2012. http://www.theses.fr/2012LIL10035/document.

Full text

Abstract:

La supervision des processus industriels critiques est une tâche complexe qui nécessite des algorithmes robustes. La littérature montre un intérêt croissant des approches graphiques à cause de la simplicité de l’implémentation des algorithmes dérivés. Le diagnostic à base de modèle est une méthode qui devient de plus en plus utilisée à cause de la richesse des méthodes graphiques et structurelles permettant la modélisation des processus complexes et ne nécessitent pas une phase d’apprentissage en ligne. L’outil bond graph (BG) par ses propriétés graphique et multidisciplinaire est un outil puissant de modélisation reconnu. Dans ce contexte, les propriétés structurelles et causales de cet outil (utilisées pour la détection de défauts) sont exploitées ici pour intégrer les réseaux bayésiens graphiques permettant d’incorporer des statistiques de pannes des composants pour améliorer l’étape de décision. Cette méthodologie permet de pallier aux problèmes relatifs aux signatures de défauts inconnues ou identiques pour plusieurs composants et le suivie de la dégradation du système. Sur la base de la littérature consultée, il n’apparait pas de travaux qui évoquent une démarche pour la supervision associant un modèle bayésien de la fiabilité avec une approche de détection et isolation de défaut (FDI) basée sur le modèle BG. Notre contribution concerne l’intégration de deux outils graphiques (BG et réseaux Bayésiens (RB)) pour la conception d’un système de supervision robuste. Les résidus générés par le modèle BG sont couplés avec le modèle de fiabilité des composants à surveiller pour en déduire finalement un modèle de diagnostic de type RB hybride. Ce modèle est utilisé dans l’étape de décision face aux incertitudes du modèle bond graph en tenant compte des probabilités de fausses alarmes et de non détection estimées par une approche hiérarchique bayésienne. Une application à une partie d’une centrale thermique a validé la théorie développée
The supervision of complex and critical industrial processes is a very heavy task which requires effective algorithms. The literature shows a growing interest of graphical approaches because of the simplicity of establishment of the derived algorithms. The model based diagnosis is a method which becomes widespread because of the richness of graphical and structural methods allowing modeling of most complex processes. The bond graph (BG) tool, with its multidisciplinary representation, is one of the most recognized approaches in this framework. In this context, we try in present work to couple this graphical approach with another graphical one allowing incorporating statistics of components failures. All this aims to mitigate the problems: unknown failure signatures or identical signatures for several components and monitoring the system degradation. Indeed, on the basis of consulted literature, it does not appear work which evokes a supervision strategy associating a Bayesian reliability model with a BG model based fault detection and isolation (FDI) approach. Consequently, the suggested work illustrates a method to outline this objective. We propose a new methodology for the supervision of the dynamic and hybrid dynamic systems. Our contribution appears in the proposal for a strategy of risk based supervision by combining two graphical approaches: BG and Bayesian networks (BN). The resulting model for diagnosis is a hybrid BN. It is able to make a decision under uncertainties of BG model and takes account of the probabilities of false alarm and non-detection. Furthermore, integration of two graphical approaches (BG and Bayesian networks (BN) to design robust supervision system is another innovative interest. Generated residuals from BG model are coupled with the component reliability model of components leading to a hybrid BN diagnostic model. This model is then used to make a decision under uncertainties of BG model and takes into account the probabilities of false alarm and non-detection. The developed theory is applied to a thermal power station

APA, Harvard, Vancouver, ISO, and other styles

25

Pujol, Hubert. "Réseau d'interconnexion haut débit pour les architectures parallèles connexionnistes." Paris 11, 1994. http://www.theses.fr/1994PA112192.

Full text

Abstract:

La taille des réseaux de neurones formels croit rapidement d'année en année. Si le parallélisme massif des architectures permet d'atteindre des puissances de calcul satisfaisantes, la réalisation des communications devient critique. Le cross bar, généralement utilisé dans les machines spécialisées pour les réseaux de neurones formels, ne peut suivre cette évolution. Le but de cette thèse est de concevoir un réseau d'interconnexion réalisable pour les architectures parallèles connexionnistes. Pour cela, j'ai d'abord identifié les primitives de communications induites par les graphes de réseaux de neurones formels (diffusions partielles multiples et communication locales), puis, j'ai défini un réseau d'interconnexion original adapté à ces primitives: le bus sécable. C'est une architecture à base de bus multiples fractionnés en tronçons. Ces tronçons sont reliés par des commutateurs ouverts ou fermés suivant les besoins des communications. Sur chacun de ces tronçons se trouvent des noeuds qui peuvent être des processeurs, des mémoires ou des entrées sorties. Je compare ensuite le bus sécable avec différents réseaux classiques. L'originalité de cette comparaison vient du choix des critères qui sont théoriques (degré, diamètre) ou pratiques (dilatation dans une grille, nombre de commutateurs élémentaires, le nombre de liens). La conclusion de ces comparaisons met en avant les excellentes caractéristiques du bus sécable. J'écris ensuite la mise en oeuvre de l'accélérateur de machine de Boltzmann, l'implantation physique du bus sécable dans un composant programmable, l'utilisation de circuits analogiques numériques qui servent à la partie calcul et des contrôleurs cablés et programmés. Je montre enfin que le bus sécable peut servir dans le contexte des machines parallèles à usage généraliste. Pour cela, je compare pour les réseaux classiques et le bus sécable, le nombre de reconfigurations nécessaires pour exécuter trois primitives fréquemment utilisées pour le calcul scientifique. Je montre ainsi qu'en diminuant le nombre de ces reconfigurations, le bus sécable réduit la latence des communications

APA, Harvard, Vancouver, ISO, and other styles

26

El, Aidi Chafei. "Relations structure-odeur pour des composés aromatiques : comparaison entre analyses multivariées et réseaux neuronaux." Lyon 1, 1997. http://www.theses.fr/1997LYO10213.

Full text

Abstract:

Notre but etait d'etablir des relations structure-odeur pour plusieurs familles chimiques et de comparer les performances des methodes statistiques lineaires (analyse discriminante, analyse en composantes principales et analyse des correspondances) avec celles de methodes non lineaires, en particulier les reseaux de neurones. Dans la premiere partie, 105 molecules (indanes, tetralines, nitrobenzenes) dont certaines possedent une odeur de musc ont ete etudiees. Les structures ont ete decrites a partir d'un squelette commun, en decrivant chaque substituant par un descripteur d'encombrement sterique et eventuellement un descripteur d'electronegativite. Les methodes lineaires et la cartographie non lineaire (nlm) ont donne des resultats peu satisfaisants, mais des reseaux de neurones (nn) (d'architecture 8-6-1 ou 8-8-1) ont conduit a des taux de classification correcte de 98,1% a 99%. Le taux de prediction correcte varie de 83% a 86,7%. La contribution de chaque descripteur a la classification a ete evaluee. Une bonne representation a deux dimensions a ete obtenue a partir des memes variables a l'aide d'un reseau de livingstone. Les muscs et les non-muscs forment plusieurs groupes, dont la repartition explique l'echec des methodes lineaires. Dans la deuxieme partie, les methodes ont ete appliquees a l'etude de l'odeur de poivron, sur un echantillon de 115 pyrazines et pyridines, decrites a partir de quatre variables steriques ou d'electronegativite. Pour un echantillon de 84 pyrazines, les resultats obtenus par les methodes lineaires (92,9% de bonne classification) et nlm sont corrects. Les nn (4-7-1 et 5-6-1) donnent une bonne classification (97,6% a 100%) et un taux de prediction correcte de 97,6%. Un reseau de livingstone a permis d'obtenir une bonne discrimination des composes a odeur de poivron. Un echantillon de 88 pyrazines et 32 thiazoles a aussi ete etudie, en cherchant a predire les notes verte et noisette pour la meme molecule. En plus des methodes precedentes, nous avons utilise la matrice des distances euclidiennes pour les 88 pyrazines. Chaque pyrazine a ete classee d'abord en lui attribuant l'odeur majoritaire parmi ses quatre plus proches voisines, puis a partir de sa ressemblance a trois pyrazines modeles. Cette derniere approche s'est averee efficace.

APA, Harvard, Vancouver, ISO, and other styles

27

Nocera, Pascal. "Utilisation conjointe de réseaux neuronaux et de connaissances explicites pour le décodage acoustico-phonétique." Avignon, 1992. http://www.theses.fr/1992AVIG0102.

Full text

Abstract:

Les travaux presentes dans cet ouvrage sont consacres a l'application de methodes connexionnistes dans un systeme de decodage acoustico-phonetique (dap). Ce n'est que depuis quelques annees, que les reseaux neuronaux sont utilises dans de nombreux domaines. Une etude comparative des modeles les plus courants est effectuee en se basant sur une definition generale. La parole est un domaine d'application qui est souvent aborde pour la validation des theories neuromimetiques. Cependant, de nombreuses caracteristiques de cette activite humaine, telles que l'imparfaite connaissance du domaine, la distorsion temporelle des evenements de parole et la continuite du signal, sont des inconvenients majeurs qu'il a fallut prendre en compte. L'integration du parametre temps se fait soit en donnant aux reseaux une architecture particuliere, soit en lui associant des methodes plus resistantes a ce genre de problemes. Pour notre part, nous avons choisi d'utiliser conjointement une base de regles prolog II et des reseaux neuronaux pour constituer un systeme de dap prevu pour fonctionner en parole continue. A cet effet, l'environnement dont nous disposions, adapte au traitement de connaissances numeriques et symboliques dans le cadre de la reconnaissance automatique de la parole, a ete modifie afin de gerer des reseaux multi-couches et auto-generateurs. Dans notre application, les regles dirigent l'apprentissage en choisissant les exemples pertinents dans une base de sons. En situation de reconnaissance, leur role essentiel est de decrire la structure des sons ; elles selectionnent dans le signal d'entree des reseaux et interpretent leurs sorties en fonction du contexte. Des strategies differentes ont ete mises en place pour localiser et identifier les voyelles, les fricatives et les occlusives (en accord avec les particularites acoustiques de chaque macro-classe) ; plusieurs architectures de reseaux ont ete parallelement testees

APA, Harvard, Vancouver, ISO, and other styles

28

Rosar, Kós Lassance Carlos Eduardo. "Graphs for deep learning representations." Thesis, Ecole nationale supérieure Mines-Télécom Atlantique Bretagne Pays de la Loire, 2020. http://www.theses.fr/2020IMTA0204.

Full text

Abstract:

Ces dernières années, les méthodes d'apprentissage profond ont atteint l'état de l'art dans une vaste gamme de tâches d'apprentissage automatique, y compris la classification d'images et la traduction automatique. Ces architectures sont assemblées pour résoudre des tâches d'apprentissage automatique de bout en bout. Afin d'atteindre des performances de haut niveau, ces architectures nécessitent souvent d'un très grand nombre de paramètres. Les conséquences indésirables sont multiples, et pour y remédier, il est souhaitable de pouvoir comprendre ce qui se passe à l'intérieur des architectures d'apprentissage profond. Il est difficile de le faire en raison de: i) la dimension élevée des représentations ; et ii) la stochasticité du processus de formation. Dans cette thèse, nous étudions ces architectures en introduisant un formalisme à base de graphes, s'appuyant notamment sur les récents progrès du traitement de signaux sur graphe (TSG). À savoir, nous utilisons des graphes pour représenter les espaces latents des réseaux neuronaux profonds. Nous montrons que ce formalisme des graphes nous permet de répondre à diverses questions, notamment: i) mesurer des capacités de généralisation ;ii) réduire la quantité de des choix arbitraires dans la conception du processus d'apprentissage ; iii)améliorer la robustesse aux petites perturbations ajoutées sur les entrées ; et iv) réduire la complexité des calculs
In recent years, Deep Learning methods have achieved state of the art performance in a vast range of machine learning tasks, including image classification and multilingual automatic text translation. These architectures are trained to solve machine learning tasks in an end-to-end fashion. In order to reach top-tier performance, these architectures often require a very large number of trainable parameters. There are multiple undesirable consequences, and in order to tackle these issues, it is desired to be able to open the black boxes of deep learning architectures. Problematically, doing so is difficult due to the high dimensionality of representations and the stochasticity of the training process. In this thesis, we investigate these architectures by introducing a graph formalism based on the recent advances in Graph Signal Processing (GSP). Namely, we use graphs to represent the latent spaces of deep neural networks. We showcase that this graph formalism allows us to answer various questions including: ensuring generalization abilities, reducing the amount of arbitrary choices in the design of the learning process, improving robustness to small perturbations added to the inputs, and reducing computational complexity

APA, Harvard, Vancouver, ISO, and other styles

29

Mousset, Paul. "Modèles neuronaux pour la représentation et l'appariement d'objets géotextuels." Thesis, Toulouse 3, 2020. http://www.theses.fr/2020TOU30042.

Full text

Abstract:

Stimulée par l'usage intensif des téléphones mobiles, l'exploitation conjointe des données textuelles et des données spatiales présentes dans les objets géotextuels (p. ex. tweets, photos Flickr, critiques de points d'intérêt) est devenue la pierre angulaire à de nombreuses applications utilisées quotidiennement, telles que la gestion de crise, l'assistance touristique ou la recommandation de points d'intérêts (POIs). Du point de vue scientifique, ces tâches reposent de façon critique sur la représentation d'objets spatiaux et la définition de fonctions d'appariement entre ces objets. Dans de précédents travaux, ce problème a principalement été traité au moyen de modèles linguistiques qui reposent sur une estimation coûteuse de probabilité de la pertinence des mots dans les régions spatiales. Cependant, ces approches traditionnelles se sont révélées peu efficaces face aux textes issus des réseaux sociaux. En effet, ces derniers sont généralement de courte longueur, utilisent des mots non conventionnels ou ambiguës et peuvent difficilement être mis en correspondance avec d'autres documents, notamment à cause de l'inadéquation du vocabulaire. De fait, les approches proposées jusqu'à présent conduisent généralement à de faibles taux de rappel et de précision. Les travaux réalisés dans cette thèse s'inscrivent dans ce contexte et visent à réduire la discordance de vocabulaire dans les représentations et l'appariement de tweets géotaggés et de POIs. Nous proposons ainsi de tirer parti des contextes géographiques et de la sémantique distributionnelle pour résoudre la tâche de prédiction sémantique de l'emplacement. Notre travail se compose de deux principales contributions : (1) améliorer les plongements lexicaux pouvant être combinés pour construire des représentations d'objets, grâce aux répartitions spatiales des mots ; (2) exploiter les réseaux de neurones profonds pour réaliser un appariement sémantique de tweets avec des POIs. Concernant l'amélioration des représentations de textes, nous proposons une approche de régularisation a posteriori qui intègre l'information spatiale dans l'apprentissage des plongements lexicaux. L'objectif sous-jacent est de révéler d'éventuelles relations sémantiques locales entre les mots, ainsi que la multiplicité des sens d'un même mot. Pour déceler les spécificités locales des différents sens d'un mot, nous proposons deux solutions, l'une s'appuyant sur une technique de partitionnement spatial, via l'algorithme des k-moyennes, l'autre sur un partitionnement probabiliste à l'aide d'estimation de densités (KDE). Les plongements lexicaux sont ensuite corrigés à l'aide d'une fonction de régularisation qui intègre les répartitions spatiales pour déterminer les relations sémantiques locales entre les mots. [...]
Stimulated by the heavy use of smartphones, the joint use of textual and spatial data in space-textual objects (e.g., tweets, Flickr photos, POI reviews) became the mainstay of many applications, such as crisis management, tourist assistance or the finding of places of interest. These tasks are fundamentally based on the representation of spatial objects and the definition of matching functions. In previous work, the problem has been addressed using linguistic models that rely on costly probability estimation of the relevance of words in spatial regions. However, these traditional methods are not very effective when dealing with social network data. These data are usually short, use unconventional or ambiguous words, and are difficult to match with other documents because of vocabulary mismatches. As a result, the proposed approaches generally lead to low recall and precision rates. In this thesis, we focus on tackling the semantic gap in the representation and matching of geotagged tweets and POIs. We propose to leverage geographic contexts and distributional semantics to resolve the semantic location prediction task. Our work consists of two main contributions: (1) improving word embeddings which can be combined to construct object representations using spatial word distributions; (2) exploiting deep neural networks to perform semantic matching between tweets and POIs. Regarding the improvement of text representations, we propose to regularize word embeddings that can be combined to construct object representations. The purpose is to reveal possible local semantic relationships between words and the multiplicity of meanings of the same word. To detect the local specificities of the different meanings, we consider two alternatives. One based on a spatial partitioning method using the k-means algorithm, and the other one based on a probabilistic partitioning using a kernel density estimation (KDE). Word embeddings are then retrofitted using a regularization function that integrates the spatial distributions to compute the local semantic relationships between words. Regarding the use of deep neural networks for the semantic location prediction task, we propose an interaction-based neural model designed for tweet-POI pair matching. Unlike existing architectures, our approach is based on joint learning of local and global interactions between tweet-POI pairs. According to the proposed model, the exact matching signals of the local word-to-word interactions are corrected by a spatial damping factor. Then, these smoothed signals are processed using matching histograms. The local interactions reveal word-pairs patterns similarity driven by spatial information. Global interactions consider the strength of the interaction between the tweet and the POI, both spatially, through a geographical distance between geotextual objects, and semantically, through a semantic proximity of their latent representation

APA, Harvard, Vancouver, ISO, and other styles

30

Lorquet, Vincent. "Etude d'un codage semi-distribué adaptatif pour les réseaux multi-couches. Application au diagnostic, à la modélisation et à la commande." Paris, ENST, 1992. http://www.theses.fr/1992ENST0025.

Full text

Abstract:

Le developpement d'un modele neuronal efficace et aisement utilisable passe par deux points clefs: ses performances en apprentissage et en generalisation, et sa facilite d'utilisation. C'est le plus souvent par le biais de l'algorithme d'apprentissage et de l'architecture que l'on tente d'ameliorer ces aspects. Pour notre part, nous avons aborde ce probleme en nous interessant a la maniere dont l'information est representee aux entrees/sorties du reseau. Il s'agit en effet d'un point capital non seulement dans le domaine des reseaux neuronaux, mais egalement dans tout ce qui a trait aux methodes informatiques, et en particulier des qu'il s'agit de mettre en uvre des techniques d'apprentissage. Nous avons choisi d'etudier l'influence d'un codage dit semi-distribue, deja utilise de maniere anterieure, aux acces des perceptrons multi-couches a retro-propagation du gradient. Cet algorithme est tres populaire, mais il est connu pour ses defauts (lenteur de convergence, difficulte a trouver une architecture adaptee a une application donnee). Nous couplons ce codage a un algorithme d'auto-organisation qui permet de l'adapter aux donnees. Par ce biais, nous ameliorons l'allocation des ressources disponibles au sein du reseau. Par ailleurs, ce codage permet d'augmenter considerablement les possibilites de ces reseaux, en autorisant l'approximation de relations non-univoques. Le modele est valide sur des applications representatives de trois grands domaines specifiques: le diagnostic, la modelisation et la commande

APA, Harvard, Vancouver, ISO, and other styles

31

Forgez, Christophe. "Méthodologie de modélisation et de commande par réseaux de neurones pour des dispositifs électrotechniques non linéaires." Lille 1, 1998. https://pepite-depot.univ-lille.fr/LIBRE/Th_Num/1998/50376-1998-309.pdf.

Full text

Abstract:

Le domaine de l'electrotechnique recele differents types de phenomenes non lineaires de par la construction et la constitution des machines ou leurs alimentations. Bon nombre de methodes capables de les traiter existent, mais souffrent de ne pas apporter de solutions universelles tant en modelisation qu'en commande les travaux rassembles dans ce memoire proposent un formalisme de modelisation et de commande de systemes electrotechniques en utilisant les reseaux artificiels de neurones. Nous nous sommes efforces d'appliquer les proprietes d'apprentissage des reseaux neuronaux a differents phenomenes rencontres en genie electrique, notamment en electromecanique et electromagnetisme, tout en evoquant leurs avantages et leurs limites. L'apprentissage permet de modeliser des caracteristiques lineaires, non lineaires ou discontinues, a partir d'echantillons de celles-ci, en utilisant des methodes d'optimisation non lineaires dont la plupart souffrent d'un cout exorbitant en temps de calculs. Pour pallier cet inconvenient majeur nous avons propose une methode dite d'initialisation basee sur une regression non lineaire. Celle ci permet entre autre d'optimiser la structure mathematique du reseau neuronal en fonction de la caracteristique a apprendre ce qui permet de reduire considerablement les temps d'apprentissage et d'augmenter la qualite de modelisation. Cette technique demontree et formalisee a ete mise en pratique sur differentes applications. Nous l'avons tout d'abord testee sur la modelisation d'inductances saturables ce qui a permis de soulever les problemes lies au cout et a la qualite des modeles. Au vue des bonnes performances, nous l'avons appliquee sur la modelisation de cycles majeurs d'hysteresis, puis sur des couples de charges mecaniques.

APA, Harvard, Vancouver, ISO, and other styles

32

Kuhn, Daniel. "Une approche neuronale pour l'asservissement visuel d'un robot manipulateur." Mulhouse, 1997. http://www.theses.fr/1997MULH0477.

Full text

Abstract:

Nous montrons les possibilités offertes par les techniques neuromimétiques dans le domaine du contrôle robotique par boucle de retour d'informations visuelles (vision monoculaire et stéréoscopique). Notre étude porte sur l'optimisation des performances en apprentissage des réseaux neuronaux et sur la mise en œuvre d'un concept de coopération entre réseaux. Pour parvenir à ce but et ainsi surmonter les limitations inhérentes aux modèles utilisés, nous avons établi un formalisme approprié : le Neuro-Module. Cette nouvelle approche rend l'application des réseaux neuromimétiques plus réaliste en robotique et permet un apprentissage en ligne. Deux schémas de contrôleur auto-adaptatif sont présentés et expérimentés. Ils offrent un apprentissage en ligne très rapide permettant d'obtenir une bonne précision de positionnement et leur implémentation est simple et réaliste. Des expérimentations sur une plate-forme robot vision viennent compléter et valider les solutions proposées.

APA, Harvard, Vancouver, ISO, and other styles

33

Bourgeois, Yoann. "Les réseaux de neurones artificiels pour mesurer les risques économiques et financiers." Paris, EHESS, 2003. http://www.theses.fr/2003EHES0118.

Full text

Abstract:

L'objectif de cette thèse est de fournir des méthodologies complètes pour résoudre des problèmes de prédiction et de classification en économie et en finance en utilisant les réseaux de neurones artificiels. Notre travail contribue à établir une méthodologie statistique des réseaux de neurones à plusieurs niveaux, comme le montre l'organisation de la thèse. Nous avons procédé en quatre chapitres. Le premier chapitre décrit la méthodologie de la modélisation des variables quantitatives ou qualitatives avec des réseaux neuronaux supervisés et non-supervisés. Dans le second chapitre, nous nous intéressons d'abord à l'interprétation bayésienne des réseaux supervisés puis nous construisons un test de spécification sans alternative spécifique pour les modèles de choix binaires. Dans le chapitre 3, nous montrons que les réseaux de neurones multivariés peuvent prendre en compte les changements structurels et permettent d'estimer des probabilités de crises de change. Dans le chapitre 4, nous développons un modèle complet de gestion de portefeuille avec un processus neuronal-GARCH en introduisant les notions de rendement conditionnel et de risque conditionnel. Nous appliquons enfin les réseaux de neurones de Kohonen bayésiens pour estimer la distribution du taux de change DM/USD
The objective of this thesis is to provide complete methodologies to solve prediction and classification problems in economy and finance by using Artificial Neural networks. The plan of work shows that the thesisplays a great part in establishing in several ways a statistic methodology for neural networks. We proceed in four chapters. The first chapter describes supervised and unsupervised neural network methodology to modelize quantitative or qualitative variables. In the second chapter, we are interested by the bayesian approach for supervised neural networks and the developpement of a set of misspecification statistic tests for binary choice models. In chapter three, we show that multivariate supervised neural networks enable to take into account structural changes and the neural networks methodology is able to estimate some probabilities of exchange crisis. In chapter four, we develope a complete based neural network-GARCH model to manage a stocks portfolio. We introduce some terms as conditional returns or conditional risk for a stock or a portfolio. Next, we apply bayesian Self-Organizing Map in order to estimate the univariate probability density function of the DM/USD exchange rate

APA, Harvard, Vancouver, ISO, and other styles

34

Sainthillier, Jean Marie. "Application des réseaux neuronaux pour le traitement et l'analyse des images en bio-ingénierie cutanée." Besançon, 2004. http://www.theses.fr/2004BESA3001.

Full text

Abstract:

L'objectif de ce travail est l'utilisation de la vidéocapillaroscopie pour caractériser automatiquement la microcirculation cutanée. Cette technique permet l'étude des réseaux vasculaires de surface pour le diagnostic ou la surveillance de pathologies liées à la peau. L'outil neuronal est utilisé dans le but de détecter et de compter automatiquement les anses capillaires qui constituent le réseau vasculaire. Cette méthode a été validée en la comparant à une détection manuelle. Afin de modéliser la distribution spatiale de ces anses, nous avons développé plusieurs méthodes d'analyse géométrique (triangulation de Delaunay et diagramme de Voronoi͏̈). La robustesse de ces modélisations a été testée en simulant aléatoirement l'omission ou l'ajout de capillaires dans l'image. Finalement, nous avons construit un filtre neuronal pour quantifier la couperose, en fonction notamment de son intensité et de sa rougeur. En intégrant la couleur, ce système permet une détection rapide et automatisée des images
The objective of this work is to use videocapillaroscopy to characterise cutaneous microcirculation automatically. With this technique, it is possible to study microvascular vessels for the diagnosis and monitoring of skin pathologies. The neuronal tool is used to detect and count automatically the capillary loops which constitute the vascular network. This method was validated by comparison With manual detection. In order to modelise the spatial distribution of these loops, several methods of geometrical analysis (Delaunay triangulation and Voronoï diagram) were developed. The reliability of these modelisations was tested by simulating at random the omission or the addition of capillaries. Finally, we built a neuronal filter to quantify and score rosacea according to its redness and intensity. By processing the colour, this filter allows the fast and automated detection of images

APA, Harvard, Vancouver, ISO, and other styles

35

Vasiliu, Adrian Alexandru. "Une approche CAO pour la préconception des mécanismes plans générateurs de trajectoire : REALISME." Châtenay-Malabry, Ecole centrale de Paris, 1997. https://tel.archives-ouvertes.fr/tel-00393842.

Full text

Abstract:

Ce travail porte sur la préconception d'une classe de mécanismes plans à barres articulées, les générateurs de trajectoire, dont la fonction utileest la trajectoire décrite par un point effecteur. Les outils disponibles sont mieux adaptés à la conception détaillée qu'à la préconception. Les méthodes d'anayse et de synthèse proposées ici prennent en compte une plus grande diversité de besoins, notamment pour des spécifications de trajectoire en termes de forme plutôt que classiquement (par des listes de points). La plate forme REALISME utilise deux modèles de cinématique : le modèle systémique multipolaire (une extension des groupes d'Assur) et le modèle de cinématique qualitative (génèrant directement un trajectoire sous la forme d'arcs et de segments). Ces modèles permettent de réaliser des simulations cinématiques très rapides et de fournir des informations utiles en préconception.

APA, Harvard, Vancouver, ISO, and other styles

36

Gherari, Zineddine. "Stratégie de commandes neurofloues pour un système continu non linéaire." Paris 12, 1998. http://www.theses.fr/1998PA120062.

Full text

Abstract:

Dans ce memoire les outils developpes dans le cadre de la commande neurofloue ont permis de resoudre, en simulation, les problemes de la classe des systemes non lineaires continus qu'ils soient mono-dimensionels ou multidimensionels. Apres une phase bibliographique sur les reseaux de neurones artificiels ou nous avons analyses en details les algorithmes d'apprentissage par renforcement et leurs applications et apres un bref apercu sur la theorie de la logique floue, nous avons mis au point une architecture de commande neurofloue bnfc basee sur l'algorithme de la retro propagation pour l'apprentissage pouvant etre interpretee et appliquee suivant un triple cas d'utilisation : d'une maniere numerique, linguistique et lineaire. Nous introduisons egalement le concept d'apprentissage par renforcement pour la commande neurofloue des systemes non lineaires continus, domaine qui a ce jour, a notre connaissance, n'a jamais ete aborde avec succes. En proposant une methodologie generale d'apprentissage basee sur la technique des differences temporelles et l'algorithme de la retro propagation, nous avons mis en evidence une architecture de commande neurofloue bac-nfc qui de la meme maniere peut avoir une triple interpretation. L'application en simulation des deux architectures de commande proposees sur une fonction non lineaire, puis sur un prototype de chaudiere a gaz, demontre ainsi avec les resultats obtenus l'interet de la demarche.

APA, Harvard, Vancouver, ISO, and other styles

37

Maillard, Eric. "Mise en oeuvre des réseaux neuromimétiques pour le traitement d'image sonar, étude et amélioration des capacités de généralisation." Mulhouse, 1993. http://www.theses.fr/1993MULH0272.

Full text

Abstract:

Les travaux de cette thèse s'inscrivent dans le cadre de l'emploi des réseaux neuromimétiques pour les applications de classification liées au traitement d'image sonar latéral haute résolution. Les conditions de travail opérationnelles imposent une forte contrainte de fiabilité au classificateur. Après avoir proposé des modifications d'algorithmes neuronaux dans le but de diminuer les risques de non-convergence et de réduire le temps d'apprentissage, nous introduisons de nouvelles architectures inspirées du perceptron dont les capacités de généralisation sont maîtrisées par l'emploi de domaines de compétences estimés lors de l'apprentissage. La collaboration d'un réseau supervisé et d'un autre non supervisé prolonge cette démarche et augmente la souplesse du classificateur en supprimant la forme générique gaussienne du domaine de compétence. La deuxième partie est consacrée à la présentation d'un nouveau modèle de réseau neuromimétique inspiré de la théorie ART. Ce modèle supervisé est auto-organisé. Il est capable d'apprentissage incrémental. La dynamique, ainsi que l'architecture du réseau ne font appel à aucun réglage externe (taux d'apprentissage, nombre de couches. . . ). Les performances de ce réseau sont comparées avantageusement à celles de Fuzzy ARTMAP. Des applications concrètes de classification d'objets manufacturés et de textures sont présentées pour valider le nouveau réseau

APA, Harvard, Vancouver, ISO, and other styles

38

Nguyen, Gia Hung. "Modèles neuronaux pour la recherche d'information : approches dirigées par les ressources sémantiques." Thesis, Toulouse 3, 2018. http://www.theses.fr/2018TOU30233.

Full text

Abstract:

Le projet de thèse porte sur l'application des approches neuronales pour la représentation de textes et l'appariement de textes en recherche d'information en vue de lever le verrou du fossé sémantique. Plus précisément, les activités de thèse explorent la combinaison des apports de la sémantique relationnelle issue de ressources externes (comme DPBedia et UMLS) et la sémantique distributionnelle basée sur les réseaux de neurones, dans le but : 1) d'apprendre des représentations de granules d'informations (mots, concepts) et représentations de documents, et 2) d'apprendre la fonction pertinence d'un document pour une requête. Notre première contribution comprend des modèles neuronaux pour l'apprentissage en ligne et apprentissage hors ligne des représentations de texte à plusieurs niveaux (mot, sens, document). Ces modèles intègrent les contraintes relationnelles issues des ressources externes par régularisation de la fonction objectif ou par enrichissement sémantique des instances d'apprentissage. La deuxième contribution consiste en un modèle d'appariement requête-document par un réseau de neurones siamois. Ce réseau apprend à mesurer un score de pertinence entre un document et une requête à partir des vecteurs de représentation en entrée modélisant des objets (concepts, entités) identifiés dans la requêtes et documents et leurs relations issues des ressources externes. Les évaluation expérimentales sont conduites sur des tâches de RI et de traitement du langage naturel (TALN) en utilisant des collections standards TREC et des ressources largement utilisées comme DBpedia ou UMLS. Les résultats montrent principalement l'intérêt de l'utilisation des approches neuronales à la fois au niveau de la représentation des textes et de leur appariement ainsi que la variabilité de leurs performances selon les tâches considérées
In this thesis, we focus on bridging the semantic gap between the documents and queries representations, hence improve the matching performance. We propose to combine relational semantics from knowledge resources and distributed semantics of the corpus inferred by neural models. Our contributions consist of two main aspects: (1) Improving distributed representations of text for IR tasks. We propose two models that integrate relational semantics into the distributed representations: a) an offline model that combines two types of pre-trained representations to obtain a hybrid representation of the document; b) an online model that jointly learns distributed representations of documents, concepts and words. To better integrate relational semantics from knowledge resources, we propose two approaches to inject these relational constraints, one based on the regularization of the objective function, the other based on instances in the training text. (2) Exploiting neural networks for semantic matching of documents}. We propose a neural model for document-query matching. Our neural model relies on: a) a representation of raw-data that models the relational semantics of text by jointly considering objects and relations expressed in a knowledge resource, and b) an end-to-end neural architecture that learns the query-document relevance by leveraging the distributional and relational semantics of documents and queries

APA, Harvard, Vancouver, ISO, and other styles

39

Gatet, Laurent. "Intégration de Réseaux de Neurones pour la Télémétrie Laser." Phd thesis, Toulouse, INPT, 2007. http://oatao.univ-toulouse.fr/7595/1/gatet.pdf.

Full text

Abstract:

Grandes lignes : Un réseau de neurones est une architecture paramétrable composée de plusieurs modules appelés neurones. Ils peuvent être utilisés pour compenser des variations non souhaitées de certains phénomènes physiques ou pour effectuer des tâches de discrimination. Un réseau de neurones a été intégré en technologie CMOS basse tension pour être implanté au sein d'un télémètre laser par déphasage. Deux études ont été menées en parallèle. La première consiste à lever l'indétermination sur la mesure de distance déduite de la mesure de déphasage. La seconde étude permet la classification de différents types de surfaces à partir de deux signaux issus du télémètre. Résumé détaillé : Un réseau de neurones a la faculté de pouvoir être entraîné afin d'accomplir une tâche d'approximation de fonction ou de classification à partir d'un nombre limité de données sur un intervalle bien défini. L'objectif de cette thèse est de montrer l'intérêt d'adapter les réseaux de neurones à un type de système optoélectronique de mesure de distance, la télémétrie laser par déphasage. La première partie de ce manuscrit développe de manière succincte leurs diverses propriétés et aptitudes, en particulier leur reconfigurabilité par l'intermédiaire de leurs paramètres et leur capacité à être intégré directement au sein de l'application. La technique de mesure par télémétrie laser par déphasage est développée dans le deuxième chapitre et comparée à d'autres techniques télémétriques. Le troisième chapitre montre qu'un réseau de neurones permet d'améliorer nettement le fonctionnement du télémètre. Une première étude met en valeur sa capacité à accroître la plage de mesure de distance sans modifier la résolution. Elle est réalisée à partir de mesures expérimentales afin de prouver le réel intérêt de la méthode comportementale développée. La deuxième étude ouvre une nouvelle perspective relative à l'utilisation d'un télémètre laser par déphasage, celle d'effectuer la classification de différents types de surfaces sur des plages de distances et d'angles d'incidence variables. Pour valider expérimentalement ces deux études, les cellules de base du neurone de type perceptron multi-couches ont été simulées puis implantées de manière analogique. Les phases de simulation, de conception et de test du neurone analogique sont détaillées dans le quatrième chapitre. Un démonstrateur du réseau de neurones global a été réalisé à partir de neurones élémentaires intégrés mis en parallèle. Une étude de la conception des mêmes cellules en numérique est détaillée succinctement dans le cinquième chapitre afin de justifier les avantages associés à chaque type d'intégration. Le dernier chapitre présente les phases d'entraînement et de validation expérimentales du réseau intégré pour les deux applications souhaitées. Ces phases de calibrage sont effectuées extérieurement à l'ASIC, par l'intermédiaire de l'équation de transfert déterminée après caractérisation expérimentale et qualification du réseau de neurones global. Les résultats expérimentaux issus de la première étude montrent qu'il est possible d'obtenir à partir des signaux de sorties du télémètre et du réseau de neurones, une mesure de distance de précision (50µm) sur un intervalle de mesure 3 fois plus important que celui limité à la mesure du déphasage. Concernant l'application de discrimination de surfaces, le réseau de neurones analogique implanté est capable de classer quatre types de cibles sur l'intervalle [0.5m ; 1.25m] pour un angle d'incidence pouvant varier de - π /6 à + π /6.

APA, Harvard, Vancouver, ISO, and other styles

40

Deleglise, Bérangère. "Reconstruction de voies neuro-anatomiques en culture microfluidique pour l’étude des mécanismes de dégénérescence transynaptique." Paris 6, 2013. http://www.theses.fr/2013PA066242.

Full text

Abstract:

Les pathologies neurodégénératives comme la maladie d’Alzheimer ou de Parkinson sont caractérisées par un dysfonctionnement neuronal lent conduisant à des altérations synaptiques et de manière ultime à la mort neuronale. De récentes études suggèrent qu’au cours du temps, les stigmates pathologiques et la dégénérescence qui affectent initialement des aires restreintes, pourraient s’amplifier et se disperser au sein d’aires voisines via un chemin préférentiel. Plusieurs possibilités non exclusives pourraient expliquer cette progression: la perte de facteur neurotrophique, une neurotransmission aberrante, la dispersion de protéines aggrégées… Dans ma thèse j’ai développé un système de culture microfluidique permettant d’orienter la croissance axonale afin de reconstruire des réseaux neuronaux orientés modélisant des voies neuroanatomiques. J’ai ensuite modélisé une dégénérescence locale aigüe (axotomie corticale) ou une lésion agrégative locale (dépôt focal d’A somatique cortical). Ces paradigmes induisent une déconnexion présynaptique précoce au niveau des connexions pré/post-synaptiques (à distance du stress) et m’a permis d’évaluer le potentiel synapto-protecteur de molécules pharmacologiques. Cette dégénérescence présynaptique induit des perturbations dans les neurones distants connectés non exposés au stress avant la dégénérescence globale du neurone directement ciblé. La genèse d’une neurotransmission glutamatergique aberrante pourrait médier ce phénomène via l’altération des patrons d’activation des récepteurs extrasynaptiques mais aussi synaptiques

APA, Harvard, Vancouver, ISO, and other styles

41

Behloul, Faïza. "Fusion de donnees TEP-IRM par methodes neurofloues pour l'etude de la viabilite du myocarde." Lyon, INSA, 1999. http://www.theses.fr/1999ISAL0025.

Full text

Abstract:

L'étude de la viabilité myocardique est un enjeu majeur pour l'amélioration du pronostic de patients présentant une maladie coronarienne. Des études expérimentales et cliniques ont montré que seule la combinaison de paramètres reflétant la perfusion, le métabolisme et la contraction du myocarde permettrait l'estimation fine des différents processus ischémiques et d'estimer au mieux la viabilité myocardique. Malheureusement, à l'heure actuelle, il n'existe pas de modalité d'imagerie médicale qui permette d'explorer à la fois la perfusion, le métabolisme et la contraction. Ainsi, l'analyse conjointe de ces trois types de paramètres nécessite une approche multi modalité. Ce travail s'inscrit dans ce cadre et a pour but de fournir au médecin un outil de fusion de données de perfusion et métabolisme, extraites d'images de Tomographie par Emission de Positrons (TEP) et d'Imagerie par Résonance Magnétique (lRM), plus des données de fonction contractile, extraites d'images IRM de marquage tissulaire. Notre système de fusion de données a été conçu neuro-flou, pour lui permettre d'intégrer des connaissances expertes et lui conférer la capacité de s'adapter à des bases de données en expansion continue via des techniques d'apprentissage. Dans ce travail, nombre de méthodes et de nouvelles "façons de faire" dans le domaine de l'analyse d'images cardio-vasculaire IRM et TEP ont été proposées. Un Logiciel de segmentation, de visualisation, de mise en correspondance et de fusion multi-modalité a été développé. Cet outil permet une quantification automatique fine de la viabilité myocardique ce qui va permettre aux cliniciens de confirmer et même enrichir leur connaissance sur la viabilité myocardique. Les premiers résultats de validation, basés sur des tests de Kappa, sont très encourageants
Predicting which patient with alteration in contractile function will benefit from revascularization procedure after myocardial infarction is a challenging issue for clinicians. This prediction is based on the assessment of myocardial viability. Experimental studies showed that accurate viability assessment requires information about myocardial blood flow (perfusion) glucose metabolism and contractile function of the myocardium. Unfortunately, no imaging modality permits the examination of the three myocardial functions. Furthermore, integrating a growing number of parameters is tedious for clinicians and it is difficult to distinguish the different ischemic processes involved in ischemic heart disease based on visual image analysis. Thus, a multimodality data fusion system for automatic decision making is necessary. Therefore, our work was aimed to integrate perfusion, metabolism assessed by Positron Emission Tomography (PET) and Magnetic Resonance Imaging (MRI) and contractile function assessed by tagging MRI, to derive automatically accurate assessment of myocardial viability. Our fusion system is designed to process human-like expertise adapt itself and improve it performances in growing data bases via learning procedures. The quintessence of designing such an intelligent system lies in neuro-fuzzy computing, which is considered the backbone of a recent discipline called Soft Computing. The fusion system is a hierarchical modular network consisting of four Adaptive Network-based Fuzzy Inference Systems. The design of the networks and the tuning of its parameters was based on expend knowledge and unsupervised fuzzy clustering algorithms. Segmentation, visualization and registration techniques necessary for the fusion process have been developed and integrated to interactive software. This software permits accurate viability assessment and quantification that will help to confirm and enhance already existing clinical knowledge about myocardial viability. The first validation results, based on the kappa statistic measure are very encouraging

APA, Harvard, Vancouver, ISO, and other styles

42

Elbayad, Maha. "Une alternative aux modèles neuronaux séquence-à-séquence pour la traduction automatique." Thesis, Université Grenoble Alpes, 2020. http://www.theses.fr/2020GRALM012.

Full text

Abstract:

L'apprentissage profond a permis des avancées significatives dans le domaine de la traduction automatique.La traduction automatique neuronale (NMT) s'appuie sur l'entrainement de réseaux de neurones avec un grand nombre de paramètres sur une grand quantité de données parallèles pour apprendre à traduire d'une langue à une autre.Un facteur primordial dans le succès des systèmes NMT est la capacité de concevoir des architectures puissantes et efficaces. Les systèmes de pointe sont des modèles encodeur-décodeurs qui, d'abord, encodent une séquence source sous forme de vecteurs de caractéristiques, puis décodent de façon conditionne la séquence cible.Dans cette thèse, nous remettons en question le paradigme encodeur-décodeur et préconisons de conjointement encoder la source et la cible afin que les deux séquences interagissent à des niveaux d'abstraction croissants. À cette fin, nous introduisons Pervasive Attention, un modèle basé sur des convolutions bidimensionnelles qui encodent conjointement les séquences source et cible avec des interactions qui sont omniprésentes dans le réseau neuronal.Pour améliorer l'efficacité des systèmes NMT, nous étudions la traduction automatique simultanée où la source est lue de manière incrémentielle et le décodeur est alimenté en contextes partiels afin que le modèle puisse alterner entre lecture et écriture. Nous améliorons les agents déterministes qui guident l'alternance lecture / écriture à travers un chemin de décodage rigide et introduisons de nouveaux agents dynamiques pour estimer un chemin de décodage adapté au cas-par-cas.Nous abordons également l'efficacité computationnelle des modèles NMT et affirmons qu'ajouter plus de couches à un réseau de neurones n'est pas requis pour tous les cas.Nous concevons des décodeurs Transformer qui peuvent émettre des prédictions à tout moment dotés de mécanismes d'arrêt adaptatifs pour allouer des ressources en fonction de la complexité de l'instance
In recent years, deep learning has enabled impressive achievements in Machine Translation.Neural Machine Translation (NMT) relies on training deep neural networks with large number of parameters on vast amounts of parallel data to learn how to translate from one language to another.One crucial factor to the success of NMT is the design of new powerful and efficient architectures. State-of-the-art systems are encoder-decoder models that first encode a source sequence into a set of feature vectors and then decode the target sequence conditioning on the source features.In this thesis we question the encoder-decoder paradigm and advocate for an intertwined encoding of the source and target so that the two sequences interact at increasing levels of abstraction. For this purpose, we introduce Pervasive Attention, a model based on two-dimensional convolutions that jointly encode the source and target sequences with interactions that are pervasive throughout the network.To improve the efficiency of NMT systems, we explore online machine translation where the source is read incrementally and the decoder is fed partial contexts so that the model can alternate between reading and writing. We investigate deterministic agents that guide the read/write alternation through a rigid decoding path, and introduce new dynamic agents to estimate a decoding path for each sample.We also address the resource-efficiency of encoder-decoder models and posit that going deeper in a neural network is not required for all instances.We design depth-adaptive Transformer decoders that allow for anytime prediction and sample-adaptive halting mechanisms to favor low cost predictions for low complexity instances and save deeper predictions for complex scenarios

APA, Harvard, Vancouver, ISO, and other styles

43

Igusti, Bagus Made Swastika Putra. "Étude et réalisation des régulateurs de réseaux neuronaux pour des convertisseurs triphasés de type GTO/IGBT." Thèse, Université du Québec à Trois-Rivières, 1999. http://depot-e.uqtr.ca/3171/1/000664922.pdf.

Full text

APA, Harvard, Vancouver, ISO, and other styles

44

Do, Huu Nicolas. "Apprentissage de représentations sensori-motrices pour la reconnaissance d'objet en robotique." Phd thesis, Université Paul Sabatier - Toulouse III, 2007. http://tel.archives-ouvertes.fr/tel-00283073.

Full text

Abstract:

Depuis plusieurs années, la robotique mobile tente de s'extraire de l'espace amniotique des laboratoires de recherche afin d'explorer l'univers imprévisible, voire hostile, de nos lieux de vie, de travail, pour nous servir ou nous divertir. Or, les méthodes classiques de l'intelligence artificielle nécessitent des modèles du robot, de ses actions et de ses perceptions, conçus a priori. Elles sont donc peu adaptées à l'inattendu et à la nouveauté. D'autre part, les systèmes d'apprentissage artificiel, souvent d'inspiration biologique, semblent à présent en voie de fournir les capacités d'adaptation manquantes à ces premières. Nous envisageons dans cette thèse l'apprentissage comme un mécanisme central de l'architecture robotique. Celle-ci peut être représentée sous les traits d'une boucle sensori-motrice où actions et perceptions se rejoignent au sein d'une structure associative. L'apprentissage permet l'acquisition de connaissances nouvelles sur l'environnement mais il intervient également dans la modélisation des actions du robot : en associant des combinaisons de consignes simples sur les moteurs, et en mémorisant les effets de ces actions sur l'environnement ou sur le robot lui-même. Cette forme d'apprentissage a pour support un réseau de neurones permettant un apprentissage en ligne non supervisé. Cette architecture permet également d'exprimer les motivations et les objectifs du robot par le biais d'un second système d'apprentissage en associant une valeur de récompense aux représentations des actions ou des perceptions, par un apprentissage par renforcement. C'est donc l'utilité de chaque action, qui permettra finalement à un processus décisionnel d'avoir lieu.

APA, Harvard, Vancouver, ISO, and other styles

45

Cougnaud, Anthony. "Optimisation de filtres de charbon actif pour la potabilisation d'eau : étude expérimentale et modélisation par réseaux de neurones." Nantes, 2005. http://www.theses.fr/2005NANT2080.

Full text

Abstract:

Cette étude porte sur la modélisation de la percée de filtres de charbon actif par des réseaux de neurones (RN), par comparaison avec un modèle de connaissances. Deux types de RN sont utilisés : un réseau de neurones " statique " considérant le temps comme un facteur d'entrée, et un réseau de neurones " récurrent " prenant en compte le caractère dynamique du procédé. Dans un premier temps, l'adsorption de pesticides, en réacteur statique, sur différents charbons actifs permet de mettre en évidence l'influence concomitante des propriétés des solutés (masse molaire, solubilité) et des caractéristiques poreuses des charbons actifs (volume microporeux, surface spécifique). Dans le cas d'une eau de surface, la présence d'effets compétitifs d'adsorption entre les pesticides et la matière organique naturelle renforce l'effet de la distribution de taille de pores, et notamment celui de la répartition entre les micropores primaires (d < 0,8 nm) et les micropores secondaires (0,8 < d < 2 nm). Ces relations qualitatives sont quantifiées au moyen d'une régression linéaire multiple et d'un réseau de neurone statique, ce dernier permettant d'expliquer plus de 97 % de la dispersion des données alors que les performances de la régression linéaire sont de moins bonne qualité (R2 = 82 et 53 % pour une eau ultrapure et une eau de surface). En système dynamique, la modélisation par RN est appliquée dans un premier temps à des données expérimentales générées à l'échelle du laboratoire. Sont alors inclues dans les facteurs potentiellement influents les conditions opératoires (vitesse et concentration initiale) et les propriétés poreuses influençant la cinétique de diffusion. Les performances de prédiction des RN sont comparées à celle du modèle de la force motrice linéaire. Ce dernier, du fait des hypothèses simplificatrices réalisées et des corrélations empiriques utilisées pour l'estimation des coefficients de diffusion, présente une capacité de prédiction moins intéressante que les RN. Par ailleurs, le réseau de neurone récurrent, du fait de la prise en compte du caractère dynamique du procédé, offre une plus grande qualité de modélisation que le réseau de neurones statique malgré un nombre de paramètres plus restreint. Enfin, avec pour objectif ultime l'utilisation des RN récurrents pour prédire le comportement des filtres industriels, une étude sur une unité pilote installée sur le site de l'usine de production d'eau potable de la Roche (Nantes) est réalisée. Des facteurs relatifs à la qualité de l'effluent (absorbance à 254 nm, turbidité, rapport entre les concentration en matière organique naturelle et pesticides) et le temps de séjour sont considérés comme des entrées possibles du modèle. Le réseau de neurone récurrent permet de prédire avec une qualité importante la percée des filtres industriels mais un ajustement du modèle au cours du temps est nécessaire du fait d'une variation de la qualité de l'effluent notamment
This study is devoted to modelling of the behaviour of activated carbon filters by neural networks (NN), in comparison with a knowledge model based on mathematical equations. Two kinds of NN are used : a " static " NN which considers time as an input neuron, and a " recurrent " NN which takes into account the dynamic character of the process. First, the adsorption of pesticides onto activated carbon is studied in batch reactor and the concomitant influence of solute properties (solubility, molecular weight) and porous characteristics of adsorbents (microporous volume, specific surface area) is shown. In the case of surface water, the competitive effects between natural organic matter and pesticides increase the effect of pore size distribution, especially pore size distribution between primary (d < 0. 8 nm) and secondary micropores (0. 8 < d < 2 nm). These qualitative analyses are quantified with a multiple linear regression and a static neural network which allows to explain more than 97 % of data scattering, while the linear regression performance is lower (R2 = 82 % and 53 % for a distillated water and a surface water respectively). .

APA, Harvard, Vancouver, ISO, and other styles

46

Ruckebusch, Cyril. "Spectroscopie infrarouge et chimiométrie pour l'instrumentation en chimie analytique des procédés : application au suivi de l'hydrolyse d'hémoglobine bovine." Lille 1, 2000. https://pepite-depot.univ-lille.fr/LIBRE/Th_Num/2000/50376-2000-480.pdf.

Full text

Abstract:

La chimie analytique des procedes integre les methodes de chimiometrie pour la determination indirecte de proprietes d'interet a partir d'observations complexes, les spectres de vibration par exemple. Les hydrolysats de l'hemoglobine bovine contiennent, selon l'avancement de la proteolyse, des peptides potentiellement utilisables pour la nutrition clinique ou dans les milieux de culture cellulaire. Ainsi, s'il est possible d'evaluer rapidement le degre d'hydrolyse de la reaction, un etat du procede produisant une population peptidique choisie peut etre maintenu. Des modeles empiriques doivent donc etre elabores a partir d'observations en ligne, par atr-ftir, sur differentes repetitions a l'echelle pilote du procede. L'analyse des donnees spectrales echantillonnees revele, notamment par le biais des cartes auto-organisatrices de kohonen, une structure du nuage de points qui rend incontestablement delicate la procedure d'etalonnage. Neanmoins, les modeles de reseaux de neurones artificiels a retro-propagation de l'erreur se montrent performants. La precision de la prediction est estimee par un critere rmsep autour de 0,4% dans la gamme 0 ; 8,7%. De plus, les modeles optimises possedent une architecture tres simple, basee sur une topologie 441, qui confere une credibilite supplementaire a la methode ; interpretations, deductions et validations sont possibles, du point de vue des spectres de vibration comme des parametres du modele.

APA, Harvard, Vancouver, ISO, and other styles

47

Bellanger-Dujardin, Anne-Sophie. "Contribution à l'étude de structures neuronales pour la classification de signatures : application au diagnostic de pannes des systèmes industriels et à l'aide au diagnostic médical." Paris 12, 2003. https://athena.u-pec.fr/primo-explore/search?query=any,exact,990002111250204611&vid=upec.

Full text

Abstract:

Le problème du diagnostic se rencontre dans de nombreux domaines, notamment médical et industriel, et l'homme y joue un rôle indispensable. La difficulté majeure de ce problème repose sur la similitude des signatures permettant de faire un diagnostic. De plus, on dispose souvent d’une connaissance empirique du système, et donc, d’un modèle incomplet, nécessitant le recours à un expert. Nos efforts se sont concentrés sur des techniques à base de réseaux de neurones artificiels pour l'aide au diagnostic. En effet, pour les tâches de reconnaissance, de classification et de décision, ces techniques représentent un certain nombre d'avantages par rapport aux approches conventionnelles grâce à leur capacité d'apprentissage et de généralisation. Constatant de plus que les techniques neuronales simples ne permettent pas d'obtenir de bons résultats, nous proposons une structure neuronale hybride. Deux volets ont alors été considérés : l'un biomédical et l'autre, industriel
The problem of diagnosis occurs in many fields, especially medical and industrial, where operator has a key role. The major difficulty bound to this problem lies on the resemblance between the signatures which allow to make a diagnosis. Furthermore, we often have an empirical knowledge of the system, and thus, an incomplete model, requiring the appeal to an expert. Our efforts were focused on techniques based on neural techniques for computer aided diagnosis. For the tasks of pattern recognition, classification and decision, the proposed techniques indeed presents a number of advantages over conventional models because of their abilities of learning and generalization. Moreover, noticing that simple neural techniques do not allow obtaining good results, we propose a neural hybrid structure. Two areas of applications have been considered: one linked to the biomedical field and the other concerning the industrial domain

APA, Harvard, Vancouver, ISO, and other styles

48

Gueriot, Didier. "Utilisation des algorithmes génétiques pour des problèmes d'optimisation spécifiques : application aux réseaux de neurones et au traitement d'images sonar." Mulhouse, 1998. http://www.theses.fr/1998MULH0531.

Full text

APA, Harvard, Vancouver, ISO, and other styles

49

Trabelsi, Mohamed El Hadi. "Combinaison d'informations visuelles et ultrasonores pour la localisation d'un robot mobile et la saisie d'objets." Evry-Val d'Essonne, 2006. http://www.biblio.univ-evry.fr/theses/2006/Interne/2006EVRY0036.pdf.

Full text

Abstract:

Mon travail de recherche entre dans le cadre du projet « Assistance Robotisée aux Personnes Handicapées (ARPH). L’objectif de ce projet est d’apporter une assistance aux personnes handicapées moteur dans les différentes tâches de la vie quotidienne, à l’aide d’un robot mobile et un bras manipulateur. La première partie de ma thèse est consacrée au développement d’un système de localisation d'intérieur pour le robot mobile. Nous utilisons un appariement 2D/3D entre le modèle filaire de l’environnement enrichi par l'information ultrasonore et les attributs de l’image. La transformation qui permet de passer des coordonnées des segments 3D du modèle aux coordonnées de la caméra se base sur le principe de Lowe linéaire. Le choix de la meilleure pose est obtenu par une fonction de coût basée sur les distances entre les groupes de segments dans l'espace. La deuxième partie de ma thèse a été consacrée au développement d'une stratégie de saisie pour des objets de forme simple (cylindre ou sphère). Une caméra et un capteur ultrasonore équipent la pince du bras manipulateur Manus. La combinaison des informations reçues de ces deux capteurs permet de reconnaître l’objet à saisir en utilisant un réseau neuronal. Cette objet est centré dans le champ visuel de la caméra par traitement d’images et à l’aide de toutes de ces informations, la pince approche l’objet jusqu’à la saisie. Globalement, cette méthode est basée sur plusieurs éléments qui participent à l’élaboration de cette stratégie de type asservissement visuel
My research bellows at the ARPH project. The aim of this project is to bring an assistance to disabled people in the various tasks of life, using a mobile robot and an arm manipulator. The first part of my thesis is devoted to the development of a localization system for the mobile robot. We use a 2D/3D matching between the 3D environment model enriched with ultrasonic information and 2D image segments. Function which transforms the 3D coordinates of the model segments to the camera coordinates is based on the Lowe linear principle. The choice of the best position is obtained by measuring distances between the two groups of segments in space. The second part of my thesis was devoted to the development of a seizure strategy for simple objects (cylinder or sphere). A camera and a sonar followed by a neural networks are installed at the robot gripper. The combination of information received from these two sensors allows the grabbing of the object. This object is centered in the visual field of the camera by image processing. The gripper approaches the object until the seizure. This method is based on several elements which take part in the development of a visual servoing strategy

APA, Harvard, Vancouver, ISO, and other styles

50

Prévotet, Jean-Christophe. "Etude des systèmes électroniques pour les réseaux connexionnistes appliqués à l'instrumentation en temps-réel." Paris 6, 2002. http://www.theses.fr/2002PA066463.

Full text

APA, Harvard, Vancouver, ISO, and other styles

Dissertations / Theses on the topic 'Réseaux neuronaux pour les graphs'

Create a spot-on reference in APA, MLA, Chicago, Harvard, and other styles