Dissertationen zum Thema „Réseaux tensoriels“

Dans cette thèse, nous développons des algorithmes à haute performance pour certains calculs impliquant des tenseurs denses et des matrices éparses. Nous abordons les opérations du noyau qui sont utiles pour les tâches d'apprentissage de la machine, telles que l'inférence avec les réseaux neuronaux profonds. Nous développons des structures de données et des techniques pour réduire l'utilisation de la mémoire, pour améliorer la localisation des données et donc pour améliorer la réutilisation du cache des opérations du noyau. Nous concevons des algorithmes parallèles à mémoire séquentielle et à mémoire partagée.Dans la première partie de la thèse, nous nous concentrons sur les noyaux tenseurs denses. Les noyaux tenseurs comprennent la multiplication tenseur-vecteur (TVM), la multiplication tenseur-matrice (TMM) et la multiplication tenseur-tendeur (TTM). Parmi ceux-ci, la MVT est la plus liée à la largeur de bande et constitue un élément de base pour de nombreux algorithmes. Nous proposons une nouvelle structure de données qui stocke le tenseur sous forme de blocs, qui sont ordonnés en utilisant la courbe de remplissage de l'espace connue sous le nom de courbe de Morton (ou courbe en Z). L'idée clé consiste à diviser le tenseur en blocs suffisamment petits pour tenir dans le cache et à les stocker selon l'ordre de Morton, tout en conservant un ordre simple et multidimensionnel sur les éléments individuels qui les composent. Ainsi, des routines BLAS haute performance peuvent être utilisées comme micro-noyaux pour chaque bloc. Les résultats démontrent non seulement que l'approche proposée est plus performante que les variantes de pointe jusqu'à 18%, mais aussi que l'approche proposée induit 71% de moins d'écart-type d'échantillon pour le MVT dans les différents modes possibles. Enfin, nous étudions des algorithmes de mémoire partagée parallèles pour la MVT qui utilisent la structure de données proposée. Nos résultats sur un maximum de 8 systèmes de prises montrent une performance presque maximale pour l'algorithme proposé pour les tenseurs à 2, 3, 4 et 5 dimensions.Dans la deuxième partie de la thèse, nous explorons les calculs épars dans les réseaux de neurones en nous concentrant sur le problème d'inférence profonde épars à haute performance. L'inférence sparse DNN est la tâche d'utiliser les réseaux sparse DNN pour classifier un lot d'éléments de données formant, dans notre cas, une matrice de caractéristiques sparse. La performance de l'inférence clairsemée dépend de la parallélisation efficace de la matrice clairsemée - la multiplication matricielle clairsemée (SpGEMM) répétée pour chaque couche dans la fonction d'inférence. Nous introduisons ensuite l'inférence modèle-parallèle, qui utilise un partitionnement bidimensionnel des matrices de poids obtenues à l'aide du logiciel de partitionnement des hypergraphes. Enfin, nous introduisons les algorithmes de tuilage modèle-parallèle et de tuilage hybride, qui augmentent la réutilisation du cache entre les couches, et utilisent un module de synchronisation faible pour cacher le déséquilibre de charge et les coûts de synchronisation. Nous évaluons nos techniques sur les données du grand réseau du IEEE HPEC 2019 Graph Challenge sur les systèmes à mémoire partagée et nous rapportons jusqu'à 2x l'accélération par rapport à la ligne de base
In this thesis, we develop high performance algorithms for certain computations involving dense tensors and sparse matrices. We address kernel operations that are useful for machine learning tasks, such as inference with deep neural networks (DNNs). We develop data structures and techniques to reduce memory use, to improve data locality and hence to improve cache reuse of the kernel operations. We design both sequential and shared-memory parallel algorithms. In the first part of the thesis we focus on dense tensors kernels. Tensor kernels include the tensor--vector multiplication (TVM), tensor--matrix multiplication (TMM), and tensor--tensor multiplication (TTM). Among these, TVM is the most bandwidth-bound and constitutes a building block for many algorithms. We focus on this operation and develop a data structure and sequential and parallel algorithms for it. We propose a novel data structure which stores the tensor as blocks, which are ordered using the space-filling curve known as the Morton curve (or Z-curve). The key idea consists of dividing the tensor into blocks small enough to fit cache, and storing them according to the Morton order, while keeping a simple, multi-dimensional order on the individual elements within them. Thus, high performance BLAS routines can be used as microkernels for each block. We evaluate our techniques on a set of experiments. The results not only demonstrate superior performance of the proposed approach over the state-of-the-art variants by up to 18%, but also show that the proposed approach induces 71% less sample standard deviation for the TVM across the d possible modes. Finally, we show that our data structure naturally expands to other tensor kernels by demonstrating that it yields up to 38% higher performance for the higher-order power method. Finally, we investigate shared-memory parallel TVM algorithms which use the proposed data structure. Several alternative parallel algorithms were characterized theoretically and implemented using OpenMP to compare them experimentally. Our results on up to 8 socket systems show near peak performance for the proposed algorithm for 2, 3, 4, and 5-dimensional tensors. In the second part of the thesis, we explore the sparse computations in neural networks focusing on the high-performance sparse deep inference problem. The sparse DNN inference is the task of using sparse DNN networks to classify a batch of data elements forming, in our case, a sparse feature matrix. The performance of sparse inference hinges on efficient parallelization of the sparse matrix--sparse matrix multiplication (SpGEMM) repeated for each layer in the inference function. We first characterize efficient sequential SpGEMM algorithms for our use case. We then introduce the model-parallel inference, which uses a two-dimensional partitioning of the weight matrices obtained using the hypergraph partitioning software. The model-parallel variant uses barriers to synchronize at layers. Finally, we introduce tiling model-parallel and tiling hybrid algorithms, which increase cache reuse between the layers, and use a weak synchronization module to hide load imbalance and synchronization costs. We evaluate our techniques on the large network data from the IEEE HPEC 2019 Graph Challenge on shared-memory systems and report up to 2x times speed-up versus the baseline

Cette thèse se situe dans le cadre des méthodes exactes d'évaluation de performances des systèmes à nombre fini d'états évoluant en temps continu. La complexité croissante de ces systèmes exige le développement de méthodes de résolution adaptées du modèle markovien sous-jacent. Dans une première partie, nous établissons une nouvelle méthode, qui, pour la première fois, combine l'agrégation markovienne et la décomposition tensorielle qui ont, chacune, montre leur efficacité : à partir du modèle Réseau de Petri Stochastique Bien Formé, qui fournit la composante agrégation, nous exhibons des conditions, aussi bien au niveau des marquages que de la structure du réseau, sous lesquelles une décomposition en sous-réseaux permet d'obtenir le générateur de la chaine de Markov sous-jacente comme expression tensorielle d'éléments calculables dans les sous-réseaux en isolation. Cette expression autorise un gain important en place mémoire et temps d'exécution lors de la résolution. La seconde partie de ce travail est consacrée à l'introduction des distributions de Cox dans les réseaux de Petri stochastiques. Contrairement aux travaux précédents sur le sujet, notre méthode, fondée sur les propriétés structurelles du réseau, contrôle l'accroissement de complexité de résolution résultant intrinsèquement de l'emploi de ces distributions, tout en conservant l'ensemble des sémantiques stochastiques possibles : nous décomposons l'ensemble des places du réseau en tenant compte des interactions des transitions a loi de Cox et nous en déduisons une expression tensorielle du générateur de la chaine de Markov sous-jacente

La présence de porosités dans les lingots métalliques représente un problème majeur dans l’industrie des matériaux. En effet, ces porosités altèrent significativement les caractéristiques mécaniques du matériau (ductilité notamment), et sont des sources d’apparition de défauts en mise en forme ou en tenue en service. Pour éliminer ces porosités, les industriels utilisent souvent des procédés de mise forme à chaud tels que le forgeage ou le laminage, mais il est souvent difficile de définir le taux de déformation à appliquer pour refermer entièrement ces porosités. La modélisation numérique s’avère donc être un outil particulièrement intéressant afin d’étudier l’impact des paramètres procédé sur le taux de refermeture de porosités. Dans ce travail, nous avons développé une méthodologie de calibration basée sur des algorithmes d’optimisation et une base de données de 800 simulations à champ complet sur VER, où les paramètres influents sur la refermeture des porosités sont variés (mécaniques et géométriques). Le premier modèle proposé est un modèle scalaire qui s’affranchit de l’hypothèse de chargement axisymétrique, largement utilisée dans la littérature. Le paramètre de Lode a permis avec l’utilisation de la triaxialité des contraintes de définir l’état de contraintes d’une manière unique. Les comparaisons de ce nouveau modèle à trois autres modèles de refermeture de la littérature montrent le gain de précision de ce nouveau modèle scalaire de refermeture. Le deuxième modèle est un modèle tensoriel adapté aux procédés multipasses grâce à l’analyse de la matrice d’inertie de la porosité. Cette matrice sert pour calculer le volume, la forme et l’orientation de la porosité. Ce modèle a été calibré en utilisant une approche basée sur les réseaux de neurones artificiels. La comparaison avec le modèle scalaire et la modélisation en champ complet a montré un gain en précision jusqu’à 35%. Il s’agit là par ailleurs du premier modèle tensoriel proposé dans la littérature
The presence of voids in ingots is a major issue in the casting industry. These voids decrease materials properties (in particular ductility) and may induce premature failure during metal forming or service life. Hot metal forming processes are therefore used to close these voids and obtain a sound product. However, the amount of deformation required to close these voids is difficult to estimate.Numerical modeling is an interesting tool to study the influence of process parameters on void closure rate. In this work, an optimization-based strategy has been developed to identify the parameters of a mean-field model based on a database of 800 full-field REV simulations with various loading conditions and voids geometry and orientations. The first void closure model is a scalar model that gets rid of the axisymmetric loading hypothesis considered in most models in the literature. The Lode angle, coupled with the stress triaxiality ratio enables to identify the stress state in a unique way. Comparisons of this new model with three other models fromthe literature show the accuracy increase for general loading conditions. In order to address multistages processes, a second model is defined in a tensor version. The ellipsoid void inertia matrix is used to define void’s morphology, orientation and volume. The tensor model predicts the evolution of the inertia terms and its calibration is based on the full-field REV database and on a new Artificial Neural Networks approach. Comparisons were carried out between this tensor model, the scalar model and full-field simulations for multi-stages configurations. These comparisons showed up to 35% accuracy improvement with the tensor model. It is worth mentioning that this is the first attempt to define a void closure tensor model in the literature

À l'aube de la seconde révolution quantique, comprendre et exploiter les phénomènes résultant de l'interaction entre la non-localité intrinsèque de la mécanique quantique et les interactions purement non-locales est d'une importance cruciale pour le développement de nouvelles technologies quantiques. Dans cette thèse, nous nous concentrerons principalement sur les effets non-locaux introduits par la frustration topologique (FT), une forme de frustration faible qui a été introduite pour la première fois dans le contexte des chaînes de spins quantiques antiferromagnétiques en appliquant les conditions aux limites frustrées, réalisées comme une combinaison de conditions aux limites périodiques et d'un nombre impair de spins. Notre objectif est double. D'une part, nous améliorerons la compréhension théorique des phases topologiquement frustrées. Au-delà de ces implications théoriques, ce travail démontrera que les chaînes de spins FT présentent un potentiel technologique convaincant, les proposant comme des candidats compétitifs pour le développement de batteries quantiques robustes et efficaces
At the verge of the second quantum revolution, understanding and exploiting the phenomena resulting from the interplay between the intrinsic non-locality of quantum mechanics and purely non-local interactions is of crucial importance for the development of novel quantum technologies. In this thesis, we will mostly focus on the non-local effects introduced by topological frustration (TF), a form of weak frustration that was first introduced in the context of antiferromagnetic quantum spin chains by applying the so called frustrated boundary conditions, realized as a combination of periodic boundary conditions and odd number of spins. Our goal is double. From one side, we will further improve the theoretical understanding of topologically frustrated phases. Beyond these theoretical implications, this work will demonstrate that TF spin chains exhibit compelling technological potential, proposing them as competitive candidates for the development of robust and efficient quantum batteries

Cette thèse présente des méthodes et des algorithmes pour l'évaluation de performance deH systèmes à grand espace d'états décrits par le formalisme des Réseaux d'Automates Stochastiques (SAN). Nous proposons des méthodes pour la génération de l'espace d'états atteignables de modèles SAN qui utilisent des transitions qui dépendent d'états globaux du modèle. Nous proposons aussi une méthode de multiplication d'un vecteur par la matrice de transition d'un modèle SAN à temps discret représentée par un descripteur. La méthode réalise une suite d'opérations qui manipulent des données de la taille d'une composante (etpour toutes les composantes) au lieu de réaliser la multiplication sur l'espace produit du modèle
This thesis presents methods and algorithms for the performance evaluation of large state space models described by Stochastic Automata Networks (SAN) formalism. We propose reachable state space generation methods of SAN models which use transitions that depend on model's global states. We also propose a multiplication method of a vector by the transition matrix of a discret time SAN model which is represented by a descriptor. The method executes a series of operations that manipulate data on the size of an automaton. (and for ail automata) instead of executing the multiplication on the product space of the'-' mode!

Les signatures spectrales des composants constitutifs présents dans les images hyperspectrales peuvent être significativement affectées par les variations des conditions atmosphériques, d'illumination ou d'environnement se produisant typiquement dans une image. Les algorithmes traditionnels de démélange spectral (Spectral Unmixing - SU) négligent la variabilité spectrale des composants constitutifs, ce qui propage des erreurs importantes tout au long du processus de démélange et compromet la qualité des abondances estimées. Par conséquent, des efforts importants ont été récemment consacrés à atténuer les effets de la variabilité spectrale dans les procédures de démélange. Cependant, de nombreux défis restent à relever pour savoir comment exploiter au mieux les informations a priori sur le problème afin d'améliorer à la fois la qualité et la robustesse des algorithmes de SU qui tiennent compte de la variabilité spectrale des composants. Dans cette thèse, de nouvelles stratégies sont développées pour aborder cette variabilité spectrale. Premièrement, une stratégie de régularisation multi-échelles basée sur la (sur)-segmentation des images est proposée pour explorer plus efficacement les informations spatiales sur les abondances. De nouveaux algorithmes sont ensuite proposés pour le démélange spéctral semi-supervisé et non-supervisé, ce qui se traduit par une amélioration des performances de reconstruction des abondances avec une complexité de calcul réduite. Ensuite, trois nouveaux modèles sont proposés pour représenter la variabilité spectrale des composants constitutifs, en utilisant des représentations paramétriques, tensorielles et basées sur des réseaux neuronaux pour les spectres de ces composants en chaque pixel de l'image. Le modèle paramétrique introduit des facteurs multiplicatifs dépendant des pixels dans une matrice des composants de référence pour modéliser une variabilité spectrale arbitraire, tandis que la représentation basée sur un tenseur permet d'exploiter la grande dimension des données en exploitant sa structure de rang faible sous-jacente. Les réseaux de neurones génératifs (tels que les variational autoencoders ou les generative adversarial networks) permettent enfin de modéliser la variété de faible dimension des signatures spectrales des matériaux, directement à partir des données observées. Les modèles proposés sont utilisés dans la conception de quatre nouveaux algorithmes de démélange non-supervisés et semi-supervisés. Enfin, nous donnons un bref aperçu des travaux qui étendent les stratégies proposées dans la thèse à de nouveaux problèmes en démélange et en dans l'analyse d'images hyperspectrales. Cela comprend l'utilisation de la régularisation d'abondance multi-échelles en démélange spectral non-linéaire, la modélisation de la variabilité spectrale, la prise en compte des changements soudains lors du démélange et la détection des changements dans les images hyperspectrales multitemporelles, ainsi que la prise en compte de la variabilité spectrale et des changements dans le problème de fusion d'images hyperspectrales et multispectrales
The spectral signatures of the materials contained in hyperspectral images, also called endmembers (EMs), can be significantly affected by variations in atmospheric, illumination or environmental conditions typically occurring within an image. Traditional spectral unmixing (SU) algorithms neglect the spectral variability of the endmembers, what propagates significant mismodeling errors throughout the whole unmixing process and compromises the quality of the estimated abundances. Therefore, significant effort have been recently dedicated to mitigate the effects of spectral variability in SU. However, many challenges still remain in how to best explore a priori information about the problem in order to improve the quality, the robustness and the efficiency of SU algorithms that account for spectral variability. In this thesis, new strategies are developed to address spectral variability in SU. First, an (over)-segmentation-based multiscale regularization strategy is proposed to explore spatial information about the abundance maps more effectively. New algorithms are then proposed for both semi-supervised and blind SU, leading to improved abundance reconstruction performance at a small computational complexity. Afterwards, three new models are proposed to represent spectral variability of the EMs in SU, using parametric, tensor, and neural network-based representations for EM spectra at each image pixel. The parametric model introduces pixel-dependent scaling factors over a reference EM matrix to model arbitrary spectral variability, while the tensor-based representation allows one to exploit the high-dimensional nature of the data by means of its underlying low-rank structure. Generative neural networks (such as variational autoencoders or generative adversarial networks) finally allow one to model the low-dimensional manifold of the spectral signatures of the materials more effectively. The proposed models are used to devise three new blind SU algorithms, and to perform data augmentation in library-based SU. Finally, we provide a brief overview of work which extends the proposed strategies to new problems in SU and in hyperspectral image analysis. This includes the use of the multiscale abundance regularization in nonlinear SU, modeling spectral variability and accounting for sudden changes when performing SU and change detection of multitemporal hyperspectral images, and also accounting for spectral variability and changes in the multimodal (i.e., hyperspectral and multispectral) image fusion problem

Cette thèse présente une étude détaillée de la structure de théories appelées GFT ("Group Field Theory" en anglais),à travers le prisme de la renormalisation. Ce sont des théories des champs issues de divers travaux en gravité quantique, parmi lesquels la gravité quantique à boucles et les modèles de matrices ou de tenseurs. Elles sont interprétées comme desmodèles d'espaces-temps quantiques, dans le sens où elles génèrent des amplitudes de Feynman indexées par des triangulations,qui interpolent les états spatiaux de la gravité quantique à boucles. Afin d'établir ces modèles comme des théories deschamps rigoureusement définies, puis de comprendre leurs conséquences dans l'infrarouge, il est primordial de comprendre leur renormalisation. C'est à cette tâche que cette thèse s'attèle, grâce à des méthodes tensorielles développées récemment,et dans deux directions complémentaires. Premièrement, de nouveaux résultats sur l'expansion asymptotique (en le cut-off) des modèles colorés de Boulatov-Ooguri sont démontrés, donnant accès à un régime non-perturbatif dans lequel une infinité de degrés de liberté contribue. Secondement, un formalisme général pour la renormalisation des GFTs dites tensorielles (TGFTs) et avec invariance de jauge est mis au point. Parmi ces théories, une TGFT en trois dimensions et basée sur le groupe de jauge SU(2) se révèle être juste renormalisable, ce qui ouvre la voie à l'application de ce formalisme à la gravité quantique.

Cette thèse présente une étude détaillée de la structure de théories appelées GFT ("Group Field Theory" en anglais),à travers le prisme de la renormalisation. Ce sont des théories des champs issues de divers travaux en gravité quantique, parmi lesquels la gravité quantique à boucles et les modèles de matrices ou de tenseurs. Elles sont interprétées comme desmodèles d'espaces-temps quantiques, dans le sens où elles génèrent des amplitudes de Feynman indexées par des triangulations,qui interpolent les états spatiaux de la gravité quantique à boucles. Afin d'établir ces modèles comme des théories deschamps rigoureusement définies, puis de comprendre leurs conséquences dans l'infrarouge, il est primordial de comprendre leur renormalisation. C'est à cette tâche que cette thèse s'attèle, grâce à des méthodes tensorielles développées récemment,et dans deux directions complémentaires. Premièrement, de nouveaux résultats sur l'expansion asymptotique (en le cut-off) des modèles colorés de Boulatov-Ooguri sont démontrés, donnant accès à un régime non-perturbatif dans lequel une infinité de degrés de liberté contribue. Secondement, un formalisme général pour la renormalisation des GFTs dites tensorielles (TGFTs) et avec invariance de jauge est mis au point. Parmi ces théories, une TGFT en trois dimensions et basée sur le groupe de jauge SU(2) se révèle être juste renormalisable, ce qui ouvre la voie à l'application de ce formalisme à la gravité quantique
In this thesis, we study the structure of Group Field Theories (GFTs) from the point of view of renormalization theory.Such quantum field theories are found in approaches to quantum gravity related to Loop Quantum Gravity (LQG) on the one hand,and to matrix models and tensor models on the other hand. They model quantum space-time, in the sense that their Feynman amplitudes label triangulations, which can be understood as transition amplitudes between LQG spin network states. The question of renormalizability is crucial if one wants to establish interesting GFTs as well-defined (perturbative) quantum field theories, and in a second step connect them to known infrared gravitational physics. Relying on recently developed tensorial tools, this thesis explores the GFT formalism in two complementary directions. First, new results on the large cut-off expansion of the colored Boulatov-Ooguri models allow to explore further a non-perturbative regime in which infinitely many degrees of freedom contribute. The second set of results provide a new rigorous framework for the renormalization of so-called Tensorial GFTs (TGFTs) with gauge invariance condition. In particular, a non-trivial 3d TGFT with gauge group SU(2) is proven just-renormalizable at the perturbative level, hence opening the way to applications of the formalism to (3d Euclidean) quantum gravity

L'objet de cette thèse est de présenter une méthode de modélisation de la complexité. Partant de l'analyse tensorielle des réseaux, on montre tout d'abord que cette technique permet de modéliser tout processus physique en intégrant dans un formalisme efficace les modèles développés dans chaque branche actuelle de la physique. Il ne s'agit pas de proposer une méthode universelle, mais bien un formalisme qui est capable d'intégrer et de coupler les modèles développés par ailleurs et appelés à évoluer. Le formalisme encapsule ainsi ceux de la mécanique quantique ou de la relativité générale, etc. L'aspect "physique" du système pris en charge, on fait appel à la théorie des jeux pour aborder l'aspect "psychique" du système, pour modéliser son comportement. Ce lien passe par la création d'objets mathématiques comme les tenfolds et gamma matrices. On est alors à même de créer un arbre d'évolution et de représenter des trajectoires de transformations et décisions dans un espace "choix-gains"
This thesis presents a method for modeling complexity. Starting from tensorial analysis of networks, we show that this technique allows to model any physical process. It gives in a common formalism all the tools to integrate equations coming from various physics. The purpose is not to develop an unique method rather than having one able to embed developments coming from any kind of physic material. The formalism embed quantum mechanics, relativity, etc. Once the physical part of the system take in charge, we use game theory to take the psychical part. Both methods linked by special mathematical objects like "tenfolds" or gamma matrices makes a global technique for complexity. A tree cross talking the two theories models the complex system evolution. A special representation in a "choices-utility" space gives a comprehensible image of the system evolution

Les graphes dynamiques permettent de comprendre l'évolution de systèmes complexes qui évoluent dans le temps. Ce type de graphe a récemment fait l'objet d'une attention considérable. Cependant, il n'existe pas de consensus sur les manières d'inférer et d'étudier ces graphes. Dans cette thèse, on propose des méthodes d'analyse de graphes dynamiques spécifiques. Ceux-ci peuvent être vues comme une succession de graphes complets partageant les mêmes nœuds, mais dont les poids associés à chaque lien évoluent dans le temps. Les méthodes proposées peuvent avoir des applications en neurosciences ou dans l'étude des réseaux sociaux comme Twitter et Facebook par exemple. L'enjeu applicatif de cette thèse est l'épilepsie, l'une des maladies neurologiques les plus rependues dans le monde affectant environ 1% de la population.La première partie concerne l'inférence de graphe dynamique à partir de signaux neurophysiologiques. Cette inférence est généralement réalisée à l'aide de mesures de connectivité fonctionnelle permettant d'évaluer la similarité entre deux signaux. La comparaison de ces mesures est donc d'un grand intérêt pour comprendre les caractéristiques des graphes obtenus. On compare alors des mesures de connectivité fonctionnelle impliquant la phase et l'amplitude instantanée des signaux. On s'intéresse en particulier à une mesure nommée Phase-Locking-Value (PLV) qui quantifie la synchronie des phases entre deux signaux. On propose ensuite, afin d'inférer des graphes dynamiques robustes et interprétables, deux nouvelles mesures de PLV conditionnées et régulariséesLa seconde partie présente des méthodes de décomposition de graphes dynamiques. L'objectif est de proposer une méthode semi-automatique afin de caractériser les informations les plus importantes du réseau pathologique de plusieurs crises d'un même patient. Dans un premier temps on considère des crises qui ont des durées et des évolutions temporelles similaires. Une décomposition tensorielle spécifique est alors appliquée. Dans un second temps, on considère des crises qui ont des durées hétérogènes. Plusieurs stratégies sont proposées et comparées. Ce sont des méthodes qui en plus d'extraire les sous-graphes caractéristiques communs à toutes les crises, permettent d'observer leurs profils d'activation temporelle spécifiques à chaque crise. Finalement, on utilise la méthode retenue pour une application clinique. Les décompositions obtenues sont comparées à l'interprétation visuelle du clinicien. Dans l'ensemble, on constate que les sous-graphes extraits correspondent aux régions du cerveau impliquées dans la crise d'épilepsie. De plus l'évolution de l'activation de ces sous-graphes est cohérente avec l'interprétation visuelle
Dynamic graphs make it possible to understand the evolution of complex systems evolving over time. This type of graph has recently received considerable attention. However, there is no consensus on how to infer and study these graphs. In this thesis, we propose specific methods for dynamical graph analysis. A dynamical graph can be seen as a succession of complete graphs sharing the same nodes, but with the weights associated with each link changing over time. The proposed methods can have applications in neuroscience or in the study of social networks such as Twitter and Facebook for example. The issue of this thesis is epilepsy, one of the most common neurological diseases in the world affecting around 1% of the population.The first part concerns the inference of dynamical graph from neurophysiological signals. To assess the similarity between each pairs of signals, in order to make the graph, we use measures of functional connectivity. The comparison of these measurements is therefore of great interest to understand the characteristics of the resulting graphs. We then compare functional connectivity measurements involving the instantaneous phase and amplitude of the signals. We are particularly interested in a measure called Phase-Locking-Value (PLV) which quantifies the phase synchrony between two signals. We then propose, in order to infer robust and interpretable dynamic graphs, two new indexes that are conditioned and regularized PLV. The second part concerns tools for dynamical graphs decompositions. The objective is to propose a semi-automatic method in order to characterize the most important patterns in the pathological network from several seizures of the same patient. First, we consider seizures that have similar durations and temporal evolutions. In this case the data can be conveniently represented as a tensor. A specific tensor decomposition is then applied. Secondly, we consider seizures that have heterogeneous durations. Several strategies are proposed and compared. These are methods which, in addition to extracting the characteristic subgraphs common to all the seizures, make it possible to observe their temporal activation profiles specific to each seizures. Finally, the selected method is used for a clinical application. The obtained decompositions are compared to the visual interpretation of the clinician. As a whole, we found that activated subgraphs corresponded to brain regions involved during the course of the seizures and their time course were highly consistent with classical visual interpretation

Ce manuscrit regroupe différents travaux explorant les interactions entre les tenseurs et l'apprentissage automatique. Le premier chapitre est consacré à l'extension des modèles de séries reconnaissables de chaînes et d'arbres aux graphes. Nous y montrons que les modèles d'automates pondérés de chaînes et d'arbres peuvent être interprétés d'une manière simple et unifiée à l'aide de réseaux de tenseurs, et que cette interprétation s'étend naturellement aux graphes ; nous étudions certaines propriétés de ce modèle et présentons des résultats préliminaires sur leur apprentissage. Le second chapitre porte sur la minimisation approximée d'automates pondérés d'arbres et propose une approche théoriquement fondée à la problématique suivante : étant donné un automate pondéré d'arbres à n états, comment trouver un automate à m
This thesis tackles several problems exploring connections between tensors and machine learning. In the first chapter, we propose an extension of the classical notion of recognizable function on strings and trees to graphs. We first show that the computations of weighted automata on strings and trees can be interpreted in a natural and unifying way using tensor networks, which naturally leads us to define a computational model on graphs: graph weighted models; we then study fundamental properties of this model and present preliminary learning results. The second chapter tackles a model reduction problem for weighted tree automata. We propose a principled approach to the following problem: given a weighted tree automaton with n states, how can we find an automaton with m

Le traitement des données massives, communément connu sous l’appellation “Big Data”, constitue l’un des principaux défis scientifiques de la communauté STIC.Plusieurs domaines, à savoir économique, industriel ou scientifique, produisent des données hétérogènes acquises selon des protocoles technologiques multi-modales. Traiter indépendamment chaque ensemble de données mesurées est clairement une approche réductrice et insatisfaisante. En faisant cela, des “relations cachées” ou des inter-corrélations entre les données peuvent être totalement ignorées.Les représentations tensorielles ont reçu une attention particulière dans ce sens en raison de leur capacité à extraire de données hétérogènes et volumineuses une information physiquement interprétable confinée à un sous-espace de dimension réduite. Dans ce cas, les données peuvent être organisées selon un tableau à D dimensions, aussi appelé tenseur d’ordre D.Dans ce contexte, le but de ce travail et que certaines propriétés soient présentes : (i) avoir des algorithmes de factorisation stables (ne souffrant pas de probème de convergence), (ii) avoir un faible coût de stockage (c’est-à-dire que le nombre de paramètres libres doit être linéaire en D), et (iii) avoir un formalisme sous forme de graphe permettant une visualisation mentale simple mais rigoureuse des décompositions tensorielles de tenseurs d’ordre élevé, soit pour D > 3.Par conséquent, nous nous appuyons sur la décomposition en train de tenseurs (TT) pour élaborer de nouveaux algorithmes de factorisation TT, et des nouvelles équivalences en termes de modélisation tensorielle, permettant une nouvelle stratégie de réduction de dimensionnalité et d'optimisation de critère des moindres carrés couplés pour l'estimation des paramètres d'intérêts nommé JIRAFE.Ces travaux d'ordre méthodologique ont eu des applications dans le contexte de l'analyse spectrale multidimensionelle et des systèmes de télécommunications à relais
Massive and heterogeneous data processing and analysis have been clearly identified by the scientific community as key problems in several application areas. It was popularized under the generic terms of "data science" or "big data". Processing large volumes of data, extracting their hidden patterns, while preforming prediction and inference tasks has become crucial in economy, industry and science.Treating independently each set of measured data is clearly a reductiveapproach. By doing that, "hidden relationships" or inter-correlations between thedatasets may be totally missed. Tensor decompositions have received a particular attention recently due to their capability to handle a variety of mining tasks applied to massive datasets, being a pertinent framework taking into account the heterogeneity and multi-modality of the data. In this case, data can be arranged as a D-dimensional array, also referred to as a D-order tensor.In this context, the purpose of this work is that the following properties are present: (i) having a stable factorization algorithms (not suffering from convergence problems), (ii) having a low storage cost (i.e., the number of free parameters must be linear in D), and (iii) having a formalism in the form of a graph allowing a simple but rigorous mental visualization of tensor decompositions of tensors of high order, i.e., for D> 3.Therefore, we rely on the tensor train decomposition (TT) to develop new TT factorization algorithms, and new equivalences in terms of tensor modeling, allowing a new strategy of dimensionality reduction and criterion optimization of coupled least squares for the estimation of parameters named JIRAFE.This methodological work has had applications in the context of multidimensional spectral analysis and relay telecommunications systems

Les chaînes de Markov facilitent l'analyse des performances des systèmes dynamiques dans de nombreux domaines d'application. Cette thèse présente le formalisme des réseaux d'automates stochastiques pour représenter des systèmes markoviens. Le principal objectif des travaux consiste à améliorer les méthodes existantes pour évaluer les performances de systèmes informatiques à grand espace d'états. Pour cela, nous introduisons le concept de réseaux d'automates stochastiques avec réplication, ainsi que des techniques pour simplifier le modèle étudié en réduisant la taille de l'espace d'états. Pour rechercher des indices de performances, on propose une amélioration de l'opération de base en tenant compte du fait que dans de nombreux modèles, la proportion d'états accessibles est faible. Les méthodes et algorithmes développés au cours de la thèse ont été implémentés dans le logiciel PEPS 2003. Des exemples numériques sont présentés pour illustrer les apports de cette thèse.

Ces dernières années, la multiplication des loisirs à bord des nouveaux avions a connu une croissance exponentielle. Dans un appareil comme l’A380, chaque siège intègre plusieurs fonctions (jeux vidéo, musique, etc. ..) et chaque fonction est connectée à l’aide d’au moins un câble électrique. Ce qui nécessite un nombre important de kilomètres de câbles pour établir toutes les connexions électriques à bord d’un tel appareil. En plus l’électrification progressive pour des raisons de sécurité des fonctions auparavant mécaniques, hydrauliques ou pneumatiques, a augmenté les exigences de câblage notamment en compatibilité électro- magnétique (CEM). La cohabitation de tous ces kilomètres de câbles dans un espace aussi réduit a accru les exigences en termes de blindage électromagnétique (EM). Les nombreuses méthodes d’analyse du blindage des câbles et faisceaux sont limitées en termes de rapidité, d’analyse des systèmes multiports. Les outils de simulations eux sont très onéreux (prévoir environ18Ke pour une licence), et nécessitent des compétences avancées et beaucoup de temps pour la caractérisation du blindage des câbles et faisceaux de câbles. Avec un outil de simulation EM 2D/3D comme HFSSR d’ANSYSR, il faut prévoir environ trois heures pour créer le modèle d’une gaine de blindage tressé, et également prévoir un temps de simulation moyen de 20 minutes en utilisant un PC équipé d’un processeur mono-cœur Intel RXeon RCPUE5-1620v4@ 3,50 GHz et 32 Go de RAM physique avec 64 bits Windows 10. En plus, les méthodes et techniques de caractérisation du blindage des câbles et faisceaux de câbles aéronautiques ont montré leurs limites à l’instar du banc triaxial avec lequel il est difficile d’effectuer des mesures d’impédance de transfert au-delà de 100 MHz. Les travaux effectués dans cette thèse ont pour but de dépasser ces limites. Nous avons développé une nouvelle méthode d’extraction rapide des paramètres S des systèmes multiports. La connaissance analytique des paramètres S permet de remonter à des caractéristiques intrinsèques des structures de blindage tubulaire. Par exemple, nos calculs des paramètres S d’une structure de câble coaxial sont prometteurs pour déterminer l’impédance de transfert par rapport à la géométrie et d’autres paramètres physiques des gaines. L’originalité de ce travail de recherche consiste à se familiariser à une méthode analytique et semi-hybride de modélisation des structures de blindage tubulaire en exploitant le formalisme de l’Analyse Tensorielle des Réseaux (ATR) à base de la méthode de Kron. Ce formalisme offre un avantage notable pour l’analyse rapide avec une précision relativement importante des systèmes électriques et électroniques complexes comme le cas des éléments de blindage. La rapidité de la méthode a été évaluée avec différentes structures sur une bande de fréquence allant de 0 Hz à quelques gigahertz en menant à des expressions dont les applications numériques se font sur un temps de calcul ne dépassant pas les millisecondes. D’autre part, nous avons aussi développé nos savoir-faire sur l’analyse des blindages électromagnétiques des câbles et faisceaux de câbles. Une approche a été élaborée pour déterminer l’efficacité de blindage (EB) d’une gaine via une configuration de couplage entre un câble coaxial blindé et une sonde boucle. Une méthode de modélisation innovante a été développée à l’aide de la théorie des circuits pour déterminer l’efficacité de blindage en étudiant le couplage entre un câble nu (conducteur interne) et un câble tressé en parallèle par la méthode de Kron. Nous avons également développé un banc de caractérisation des structures tubulaire de blindage électromagnétique dans le but de fonctionner jusqu’à 300 MHz. Les résultats dans ces études ont été confirmés par des simulations 3D et des mesures
During the last decade, the proliferation of on-board leisure activities in the new aircrafts have been growing exponentially. In the airplane like A380, each seat integrates several functions (video games, music, etc. ..) Additionally, each function must be connected using at least one electric cable. This system requires a significant number of kilometers of cables to establish all the on-board electrical connections. Furthermore, for reasons of safety and security related to mechanical, hydraulic or pneumatic functions, the wiring EMC requirements associated to the massive progressive electrification becomes considerably stricter. The coexistence of kilometer lengths of cables system in such a small space has increased the requirements in terms of electromagnetic (EM) shielding. Most of existing numerous methods for analyzing the shielding of cables and harnesses are limited in terms of computation speed, design process and in accuracies for the multiport systems analysis. Moreover, most of popular simulation and commercial tools are very expensive (for example with license cost can be more than 18K€). The use of commercial tools requires advanced skills and a lot of time to characterize the shielding of cables and harnesses. For example, with a simulation tool like HFSSR from ANSYSR , the computation time may cost approximately 3 hours to create a design model of a braided shields heath. Then, the computed results can be generated during an average simulation time of 20 minutes using a PC equipped with an Intel single-core processor RXeon RCPU E5-1620 v4 @ 3.50 GHz and 32 GB of physical RAM with 64-bit Windows 10. Most of available methods and techniques for characterizing the shielding of aeronautical cables and cable harnesses have shown their limits. For example, most of existing triaxial benches are particularly difficult to deploy for the transfer impedance measurements and they cannot operate beyond 100 MHz. The present PhD thesis aims to overcome these technical limits. Doing this, an original analytical method is developed for extracting S-parameters from multiport systems under fast computation speed and design process. An innovative methodology of EMC modelling was proposed. The knowledge of S-parameters is helpful to determine the broadband EM intrinsic parameters of the cabling as coaxial system. The developed analytical and semi-hybrid model is based on the unfamiliar formalism using tensorial analysis of networks (TAN) based on the Kron’s method. The model offers an outstanding possibility to analyze complex systems with deep knowledge of physical phenomenal behind the EM shielding. Thanks to the TAN formalism, an innovative method of circuit theory has been developed to determine the shielding efficiency (SE) of shielded cable. The feasibility of this multiport S-parameter approach was verified with the consideration of EM coupling between a nude cable constituting an internal conductor and a braided cable placed in parallel. More importantly, an advanced study of shielding efficiency (SE) with respect to the EM coupling configuration between a shielded coaxial cable and a loop probe is performed. Substantially, it was noteworthy that the TAN formalism provides an illuminating know-how on the theoretical, numerical and experimental analyses of cables and bundles EM shielding, and transfer impedances of the shielding sheath. Moreover, the TAN modelling effectiveness was confirmed with different applications with computation time which does not exceed milliseconds. Finally, the TAN model was also used to develop a SE characterization bench for tubular EM shielding structures up to 300 MHz. Emphatically, broadband SE and transfer impedance results in good correlation between 3D simulations and measurements were obtained

Cette thèse présente des méthodes et des algorithmes pour l'évaluation de performance de modèles avec très grands espace d'états décrits par des formalismes de haut niveau. Parmi les différents formalismes couramment utilisés, on se place dans le cadre des Réseaux d'Automates Stochastiques (SAN). Le formalisme SAN se caractérise par la représentation de très grands systèmes par la composition de sous-systèmes (automates), où ces automates interagissent entre eux par des événements synchronisants ou des taux et des probabilités fonctionnels.

La première partie de cette thèse s'intéresse au calcul des indices de performances transitoires pour des grands modèles. Lorsqu'on calcule des indices de performances transitoires, tel que la disponibilité ponctuelle, la méthode d'uniformisation est la plus souvent utilisée. Cependant le nombre d'itérations vecteur-matrice peut être très grand ce qui devient critique pour de très grands modèles. Des méthodes de détection du régime stationnaire peuvent réduire le coût de calcul en arrêtant les itérations lorsque le régime stationnaire est atteint. Dans cette thèse, nous proposons une adaptation et une comparaison de différentes méthodes de détection du régime stationnaire lorsque la matrice est stockée sous un format tensoriel. Les méthodes sont comparées selon deux critères : nombre d'itérations et précision des résultats.

Dans la deuxième partie, nous présentons le formalisme SAN à temps discret. La définition formelle du formalisme SAN présentée dans cette thèse nous permet de définir la sémantique des modèles en temps discret que nous souhaitons exploiter. Nous définissons une nouvelle algèbre tensorielle (appelée Algèbre Tensorielle compleXe - ATX) capable d'exprimer cette sémantique. Pour cela, trois opérateurs sont définis afin de décrire différents comportement d'un système, tels que la simultanéité, la concurrence et le choix. Enfin, le principal apport de cette thèse réside dans la définition d'une formule tensorielle (appelée Descripteur discret) qui utilise cette nouvelle algèbre pour représenter un modèle SAN à temps discret de façon compacte. Nous montrons que ce descripteur discret permet aisément de générer la chaîne de Markov représentée par le modèle SAN.

Cette thèse présente des méthodes et des algorithmes pour l'évaluation de performance de systèmes à grand espace d'états décrits par des formalismes de haut niveau. Parmi les différents formalismes de haut niveau normalement utilisés, nous nous sommes intéressés au formalisme des Réseaux d'Automates Stochastiques (SAN). Le formalisme SAN se caractérise par la modélisation de systèmes complexes, où un système est représenté par la composition de sous-systèmes (automates) qui interagissent entre eux. Cette interaction se réalise par l'occurrence des événements synchronisants ou des taux fonctionnels. Lorsqu'on calcule l'espace d'états atteignables de systèmes complexes, le principal problème qui surgit est l'explosion combinatoire de l'espace d'états du modèle. Dans la première partie de cette thèse, nous proposons des méthodes pour la génération de l'espace d'états atteignables de modèles compositionnels qui utilisent des taux fonctionnels. Nous utilisons les Diagrammes de Décision Multi-valués (MDD) pour représenter et manipuler les espaces d'états et le formalisme SAN pour la modélisation de systèmes. Un MDD est une structure de donnée arborescente qui permet de représenter et de manipuler de façon performante un très grand espace d'états. L'avancée par rapport à l'état de l'art a été de proposer de méthodes qui prennent en compte ces fonctions qui expriment des relations entre les composants des modèles. Des études d'exemples sont présentées afin d'illustrer les apports de ces méthodes. Dans la deuxième partie de cette thèse, nous nous sommes intéressés à la résolution d'un modèle SAN à temps discret dont la matrice de transition est représentée par une formule tensorielle (appelée descripteur discret). A cet effet, nous présentons l'Algèbre Tensorielle compleXe (ATX) adaptée à la composition parallèle des SAN à temps discret pour la représentation du descripteur et nous démontrons des propriétés qui servent de base aux méthodes itératives pour la résolution de la chaîne de Markov associée au modèle SAN. Un des avantages de représenter un modèle SAN par un descripteur est la façon compacte par laquelle on peut représenter les transitions du modèle: on remplace une description dans un espace produit par un unique produit tensoriel portant sur des facteurs qui décrivent ce qui se passe sur une seule dimension (une composante du modèle SAN). Afin de profiter de cette représentation, nous présentons une méthode de multiplication d'un vecteur de probabilité par un descripteur discret adaptée à cette algèbre. Cette méthode vise à exploiter des propriétés du produit tensoriel complexe de façon à ce que la multiplication par un opérateur sur l'espace produit soit remplacée par une suite d'opérations qui manipulent des données de la taille d'une composante (et pour toutes les composantes).

Cette thèse propose des techniques numériques visant à optimiser les méthodes itératives d'évaluation de performances de modèles Markoviens. Ces techniques s'appliquent à des modèles où la matrice de transition de la chaîne de Markov associée est stockée sous un format tensoriel. Particulièrement, le formalisme des réseaux d'automates stochastiques est employé pour la description des modèles. L'évaluation de performances cherchée est la détermination de l'état stationnaire de la chaîne de Markov (\emph(résolution)). De ce fait, les propriétés de l'algèbre tensorielle généralisée sont proposées et démontrées de façon à établir la base nécessaire aux algorithmes de résolution introduits. Le principal apport de cette thèse réside dans l'efficacité des ces algorithmes, qui est obtenue avec l'accélération des méthodes itératives. Ceci est fait à deux niveaux: la réduction du coût de chaque itération; et la réduction du nombre d'itérations nécessaire à la convergence. La multiplication d'un vecteur par une matrice sous format tensoriel (produit vecteur-descripteur) est l'opération de base des itérations. L'efficacité de cette opération est le premier objectif à atteindre. Le deuxième objectif est l'implémentation des méthodes de la puissance, d'Arnoldi et GMRES dans ses versions standards et pré-conditionnées de façon a minimiser le nombre d'itérations sans trop augmenter le coût de chaque itération. La totalité des concepts introduits est alors utilisée dans le logiciel PEPS 2.0. Plusieurs exemples pratiques de modèles en réseaux d'automates stochastiques ont été mesurés sur PEPS 2.0 pour illustrer les résultats de cette thèse.