Letteratura scientifica selezionata sul tema "Critère entropique"

La theorie classique de la detection repose sur le postulat de centralisation de l'information qui suppose que l'information ainsi que le traitement qui lui est applique soient regroupes en un meme lieu. Une alternative a la structure centralisee a ete developpee sous la forme d'architectures imposees pour lesquelles le traitement est decompose en plusieurs etapes. Par exemple, dans le cas d'une architecture parallele, chaque source elabore un resume de son observation, qui est ensuite transmis a un operateur central de decision. Dans ce travail, nous rappelons les resultats importants de la theorie de la detection en distinguant les differentes architectures rencontrees dans la litterature : la detection centralisee, decentralisee parallele et serie. Lors de l'optimisation de ces systemes, deux criteres sont employes : le critere de bayes et celui de neyman-pearson. Les architectures decentralisees n'ont pour l'instant pu etre optimisees que pour des systemes comportant peu de capteurs et en supposant l'independance des observations. Partant de l'analogie entre les systemes de communication numeriques et les systemes de detection, nous proposons l'introduction d'un critere entropique dans les systemes de detection. Nous demontrons que les differentes architectures de detection peuvent alors etre optimisees en utilisant un critere base sur l'entropie conditionnelle de shannon. L'utilisation de l'entropie ayant ete justifiee, nous proposons d'introduire une phase d'apprentissage dans les problemes de detection. Nous suggerons de limiter le nombre de capteurs a prendre en compte lors de l'optimisation du systeme de detection. Parmi tous les capteurs disponibles, nous ne faisons intervenir que ceux apportant de l'information au processus de decision. D'autre part, nous proposons des methodes d'optimisation rapides des systemes de detection decentralisee parallele. Ces techniques d'optimisation sont ensuite etendues au probleme de la quantification repartie.

L'objectif de cette étude est de prévoir la transition laminaire/turbulent de la couche limite sur l'avant-corps d'un véhicule hypersonique évoluant à des nombres de Mach compris entre 4 et 8 et à des altitudes variant de 20 à 30km. L'approche utilisée est celle de la croissance modale des perturbations (stabilité linéaire locale) couplée à la méthode du eN.
Un code de stabilité a été créé pour cette étude. Il utilise un modèle spécifique pour le calcul des coefficients de transport et de chaleur spécifique de l'air.
Un code Navier-Stokes (Fluent) est utilisé pour le calcul des profils de base. Cette approche a été validée sur plaque plane par comparaison avec des résultats de stabilité obtenus à partir de profils Levy-Lees.
Les facteurs N sont calculés par la méthode enveloppe, en suivant des chemins d'intégration localement tangents à la vitesse de groupe. Une méthode originale du calcul, en approche spatiale, de la direction de cette vitesse est proposée.
Les résultats de stabilité montrent un effet déstabilisant de la couche entropique due à l'émoussement du nez du véhicule. Cependant, l'instabilité majoritaire mise en évidence est de type CrossFlow. Dans certains cas, le premier mode oblique est aussi important. La présence du second mode droit est anecdotique. Une étude paramétrique permet de comparer les facteurs N par rapport au critère NASP (Rd2/Me) lorsque l'altitude puis l'incidence de vol varient. Dans le premier cas, les résultats concordent, dans le second, ils divergent. Ainsi, un nouveau critère basé sur la quantité d'écoulement transverse est développé. Ce dernier est en adéquation avec les résultats du calcul de stabilité pour tous les cas considérés.

Ce travail s'inscrit dans l'etude de procedes et methodes permettant l'inversion de problemes mal-poses, comme ceux qui sont rencontres en traitement de donnees experimentales. Le probleme de la synthese d'ouverture en astronomie constitue le fil directeur du travail presente. Ce probleme presente deux facettes: d'une part un probleme de synthese de fourier, et d'autre part un probleme de calibration de phase. Nous etudions la problematique de synthese de fourier en radio-astronomie, et montrons comment elle s'apparente aux methodes de traitement d'antenne. Nous examinons le parallele entre les techniques de cloture de phase utilisees en astronomie interferometrique et les statistiques d'ordre superieur. Nous proposons alors une methode de lissage automatique des polyspectres, et une methode de factorisation polyspectrale permettant de resoudre le probleme de calibration. Nous abordons ensuite la problematique d'inversion proprement dite. Nous etudions et utilisons la methode du maximum d'entropie sur la moyenne (mmem) comme cadre a une structure generale de resolution de problemes inverses lineaires, fondee sur l'utilisation de criteres de nature entropique. Nous proposons une vision synthetique de la mmem s'appuyant sur les proprietes statistiques de suites de variables aleatoires, sur certains resultats de la theorie des grandes deviations et sur la theorie de la dualite de fenchel. Une construction axiomatico-deductive permet d'identifier ces criteres entropiques a une mesure d'information. Nous montrons que de nombreux criteres classiques en regularisation peuvent etre interpretes comme une certaine construction mmem, et que celle ci permet egalement de construire de nouveaux criteres. Nous presentons ensuite une procedure tres simple de prise en compte du bruit d'observation (et de sa statistique) a l'aide d'une fonction entropique specifique. Enfin, la sensibilite de la solution a des perturbations sur les donnees est etudiee. Nous discutons enfin de la possibilite de faire intervenir ces criteres entropiques dans la construction de lois a priori pour une approche bayesienne

Nous considérons un modèle de régression non linéaire fonction de paramètres inconnus, avec un bruit additif inobservable dont la densité f est uniquement supposée symétrique. Nous cherchons à estimer les paramètres du modèle dans ce contexte semi-paramétrique, où il est encore possible d’obtenir un estimateur asymptotiquement efficace au second ordre au sens de Cramér-Rao. On peut montrer que l’entropie de Shannon de la loi des résidus symétrisés est minimale pour la vraie valeur des paramètres. L’estimateur que nous proposons minimise ainsi l’entropie empirique d’une estimée de la densité des résidus. Nous montrons que cet estimateur es asymptotiquement consistant et qu’l est un bon candidat à l’estimation adaptative. La suite de nos travaux porte sur des applications de l’estimation par minimisation de l’entropie à des problèmes de traitement du signal et de l’image. En particulier, nous appliquons les constructions d’estimateurs par minimum d’entropie à un problème d’estimation de mouvement dans des séquences vidéo, en collaboration avec l’équipe de traitement d’image du laboratoire I3S, et comparons deux estimateurs par minimum d’entropie. L’un de ces constructions s’applique à des problèmes où les observations sont de dimension supérieure à un, cas pour lequel peu de méthodes adaptatives ont été considérées. Les résultats obtenus viennent compléter le travail théorique que nous avons effectué dans cette thèse. Ils mettent en évidence en particulier la propriété de robustesse de l’approche par minimisation de l’entropie des résidus et permettent de confirmer les intuitions qui ont motivé ce travail de recherche
We consider a nonlinear regression model defined as a function of unknown parameters, bearing unobservable additive noise with density f, which we only assume to be symmetric about zero. We wish to estimate the model parameters in this semiparametric context, in which adaptive estimation is possible, that is, that second-order asymptotically efficient estimation is still possible (in the sense of Cramér-Rao). One can prove that the Shannon entropy of the symmetrised residuals reaches its minimum at the true value of the parameters. The estimator that we suggest minimizes the empirical entropy of an estimate of the density of the residuals. We show that this estimator is asymptotically consistent and that it is s strong candidate to adaptive estimation. We then consider applications of some minimum-entropy estimators to signal and image processing problems. In particular, we apply different minimum-entropy estimators to video motion estimation problems, in collaboration with the image processing team of I3S laboratory, and focus on two procedures. One construction can be applied to data of dimension greater than one. To the best of our ledge, very few adaptive procedures have been considered in that context in the literature. The results we obtain come to support the theoretical aspects of our work. In particular, they illustrate the robustness property of the minimum-entropy approach and confirm the ideas that motivated our work

Les problèmes de sélection de modèles se posent couramment dans un grand nombre de domaines applicatifs tels que la compression de données ou le traitement du signal et de l'image. Un des outils les plus utilisés pour résoudre ces problèmes se présente sous la forme d'une quantité réelle à minimiser appelée critère d'information ou critère entropique pénalisé.

La principale motivation de ce travail de thèse est de justifier l'utilisation d'un tel critère face à un problème de sélection de modèles typiquement issu d'un contexte de traitement du signal. La justification attendue se doit, elle, d'avoir un solide fondement mathématique.

Nous abordons ainsi le problème classique de la détermination de l'ordre d'une autorégression. La régression gaussienne, permettant de détecter les harmoniques principales d'un signal bruité, est également abordée. Pour ces problèmes, nous donnons un critère dont l'utilisation est justifiée par la minimisation du coût résultant de l'estimation obtenue. Les chaînes de Markov multiples modélisent la plupart des signaux discrets, comme les séquences de lettres ou les niveaux de gris d'une image. Nous nous intéressons au problème de la détermination de l'ordre d'une telle chaîne. Dans la continuité de ce problème nous considérons celui, a priori éloigné, de l'estimation d'une densité par un histogramme. Dans ces deux domaines, nous justifions l'utilisation d'un critère par des notions de codage auxquelles nous appliquons une forme simple du principe de Minimum Description Length.

Nous nous efforçons également, à travers ces différents domaines d'application, de présenter des méthodes alternatives d'utilisation des critères d'information. Ces méthodes, dites comparatives, présentent une complexité d'utilisation moindre que les méthodes rencontrées habituellement, tout en permettant une description précise du modèle.

Les problèmes de sélection de modèles se posent couramment dans un grand nombre de domaines applicatifs tels que la compression de données ou le traitement du signal et de l’image. Un des outils les plus utilisés pour résoudre ces problèmes se présente sous la forme d’une quantité réelle à minimiser appelée critère d’information ou critère entropique pénalisé. La principale motivation de ce travail de thèse est de justifier l’utilisation d’un tel critère face à un problème de sélection de modèles typiquement issu d’un contexte de traitement du signal. La justification attendue se doit, elle, d’avoir un solide fondement mathématique. Nous abordons aussi le problème classique de la détermination de l’ordre d’une autorégression. La régression gaussienne, permettant de détecter les harmoniques principales d’un signal bruité, est également abordée. Pour ces problèmes, nous donnons un critère dont l’utilisation est justifiée par la minimisation du coût résultant de l’estimation obtenue. Les chaînes de Markov multiples modèlisent la plupart des signaux discrets, comme les séquences de lettres ou les niveaux de gris d’une image. Nous nous intéressons au problème de la détermination de l’ordre d’une telle chaîne. Dans la continuité de ce problème nous considérons celui, a priori éloigné, de l’estimation d’ une densité par un histogramme. Dans ces deux domaines, nous justifions l’ utilisation d’ un critère par des notions de codage auxquelles nous appliquons une forme simple du principe de « Minimum description Length ». Nous nous efforçons également, à travers ces différents domaines d’application, de présenter des méthodes alternatives d’ utilisation des critères d’ information. Ces méthodes, dites comparatives, présentent une complexité d’ utilisation moindre que les méthodes rencontrées habituellement, tout en permettant une description précise du modèle
Model selection problems appear frequently in a wide array of applicative domains such as data compression and signal or image processing. One of the most used tools to solve those problems is a real quantity to be minimized called information criterion or penalized likehood criterion. The principal purpose of this thesis is to justify the use of such a criterion responding to a given model selection problem, typically set in a signal processing context. The sought justification must have a strong mathematical background. To this end, we study the classical problem of the determination of the order of an autoregression. . We also work on Gaussian regression allowing to extract principal harmonics out of a noised signal. In those two settings we give a criterion the use of which is justified by the minimization of the cost resulting from the estimation. Multiple Markov chains modelize most of discrete signals such as letter sequences or grey scale images. We consider the determination of the order of such a chain. In the continuity we study the problem, a priori distant, of the estimation of an unknown density by an histogram. For those two domains, we justify the use of a criterion by coding notions to which we apply a simple form of the “Minimum Description Length” principle. Throughout those application domains, we present alternative methods of use of information criteria. Those methods, called comparative, present a smaller complexity of use than usual methods but allow nevertheless a precise description of the model

Cette thèse a pour sujet l'étude de structures sans propriété de diffusion. Nous nous intéressons à deux classes de telles structures.Le premier sujet traite du calcul de Malliavin pour les variables aléatoires conditionnellement indépendantes qui est un cas de calcul de Malliavin discret. Il généralise aussi celui théorisé sur des produits dénombrables d'espaces de probabilité, pour les variables aléatoires indépendantes. Dans notre cas, l'intérêt d'un tel calcul est de venir compléter des résultats d'analyse stochastique avec des preuves d'inégalités fonctionnelles (inégalité de Poincaré, inégalité de McDiarmid) et de théorèmes limites. Une des applications phares est la détermination de la vitesse de convergence de théorèmes centraux limites via la méthode de Stein. En combinant le calcul de Malliavin avec la structure de Dirichlet sous-jacente aux variables aléatoires, nous obtenons une formule d'intégration par parties cruciale pour déterminer des bornes supérieures sur les vitesses de convergence. Nous montrons des théorèmes limites quantitatifs, dont un théorème de quatrième moment avec reste. En particulier, nous discutons d'une application à la normalité asymptotique du comptage de motifs dans des hypergraphes aléatoires échangeables.Le deuxième sujet étudie les fonctionnelles d'une mesure de Poisson en utilisant la notion d'inversibilité de transformations de cette mesure sur l'espace échantillon des mesures aléatoires. Nous utilisons l'identification de ces mesures et des processus ponctuels marqués associés. Les transformations inversibles sont obtenues via le théorème de Girsanov, en respectant l'absolue continuité par rapport à la mesure de référence. Il en résulte un critère entropique pour l'inversibilité des transformations. Enfin, nous faisons le lien avec les équations différentielles stochastiques dirigées par des mesures de Poisson
This thesis is concerned with the study of non-diffusive structures. We focus on two classes of such structures.The first subject deals with Malliavin calculus for conditionally independent random variables, which is a special case of discrete Malliavin calculus. It also generalizes the calculus that has been developed for countable products of probability spaces, for independent random variables.In our case, the interest of such a calculus is to complement results in stochastic analysis with proofs of functional inequalities (Poincaré inequality, McDiarmid's inequality) and limit theorems. One of the main applications is the determination of the convergence rate of central limit theorems via the Stein method.By combining Malliavin calculus with the underlying Dirichlet structure of the random variables, we obtain an integration by parts formula which is key to the derivations of so-called Stein bounds of the rates of convergence. We show quantitative limit theorems, including a fourth moment theorem with remainder. In particular, we discuss an application to the asymptotic normality of motif counting in exchangeable random hypergraphs.The second subject studies functionals of a Poisson measure using the notion of invertibility of transformations of that measure on the sample space of random measures. We use the identification of these measures and the associated marked point processes. Invertible transformations are obtained via the Girsanov's theorem, respecting absolute continuity with respect to the reference measure. This results in an entropy criterion for the invertibility of transformations. Finally, we make the connection with stochastic differential equations driven by Poisson measures

Cette thèse est constituée de trois parties. La première est consacrée aux propriétés d'ergodicité et de mélange de certains processus aléatoires autorégressifs non linéaires ou autorégressifs polynomiaux. On y établit des critères d'ergodicité géométrique et de régularité absolue géométrique. Les résultats s'appliquent aux processus ARMA et aux processus bilinéaires. Les techniques utilisées proviennent de la théorie des chaînes de Markov et de la géométrie algébrique et différentielle réelle. Dans la deuxième partie on étudie des estimateurs à noyau sous des hypothèses de mélange. On établit des majorations des risques moyens d'ordre p et du risque uniforme pour l'estimateur de la densité et d'autres fonctionnelles on propose également un estimateur de l'entropie d'une variable aléatoire et on majore les risques de cet estimateur. Dans la troisième partie on s'intéresse à l'entropie des processus linéaires on établit une inégalité entre l'entropie d'un processus et celle de son filtré linéaire ; on obtient une égalité dans divers cas ; on termine cette partie en donnant des applications ; en particulier au principe du maximum d'entropie
There is three part in this thesis. In the first part we study the ergodic and mixing properties of some non linear or polynomial autoregressive random processes. We obtain sufficient conditions for geometric ergodicity and geometric absolute regularity of such processes. The results apply to the ARMA and bilinear processes. The technics used come from the Markov chain theory and the real algebraic and differential geometry. In the second part we study kernel estimators under strong mixing hypothesis ; we bound the p-mean risks and the uniform risk for the estimator of the density and some functionals we also propose estimators of the entropy and information of random variables and bound their risks. In the third part we study the entropy of linear processes we obtain an inequality between the entropy of a process and those of its linearly filtered ; an equality is obtained in some cases ; we close this part with applications particularly for the maximum entropy principle

Les représentations adaptées contribuent à l'étude et au traitement des informations portées par les signaux en permettant une analyse pertinente différente pour chaque signal. Ce travail de thèse porte sur l'élaboration d'une représentation utilisant successivement des segmentations temporelle et fréquentielle adaptées au signal plus souple que les solutions existantes. Ce schéma est appliqué dans un codeur perceptuel par transformée de type haute fidélité. Le signal est d'abord segmenté temporellement. Le critère utilisé est basé sur un estimateur d'entropie locale, dont il fournit un indice des variations, propice à une segmentation automatique séparant les zones transitoires et les zones stationnaires. Les tranches temporelles ainsi délimitées sont alors décomposées en paquets d'ondelettes et une recherche de la meilleure base permet l'adaptation en fréquence de la représentation. Une extension de la recherche de meilleure base est proposée pour augmenter le dictionnaire des bases disponibles par rapport au cas dyadique. À l'issue de cette analyse le signal est localisé dans des atomes du plan temps-fréquence. Un codeur d'architecture orginale incluant notre représentation est ensuite présenté, ainsi que le détail de son implémentation. Ce codeur est évalué par des tests subjectifs comparant les sons compressés aux originaux et au standard MPEG1-III pour un débit de 96 kbit/s. Les résultats montrent que l'utilisation du schéma de représentation adapté dans un codeur est compétitif avec les solutions des codeurs standards alors que de nombreuses améliorations sont possibles
Adaptive representations contribute to the study and caracterization of the information carried by any signal. In this work, we present a new decomposition which uses separated segmentation criterias in time and frequency to improve the adaptivity of the analysis to the signal. This scheme is applied to a transform perceptual audio coder. The signal is first temporally segmented using a local entropic criteria. Based upon an estimator of the local entropy, the segmentation criteria is relevant of the entropy variations in a signal and allows to separate stationnary parts from transients ones. Temporal frames thus defined are frequentially filtered using the Wavelet Packet Decomposition and the adaptation is performed by the mean of the Best Basis Search Algorithm. An extension of the library of dyadic basis is derived to improve the entropic gain performed over the signal and so the adaptivity of the decomposition. The perceptual audio coder we developped follows an original design in order to include the proposed scheme. The whole implementation of the coder is described in the document. This coder is evaluated with subjective tests, performed according to absolute and blind comparison for a rate of 96 kbps. As many parts of our coder are still to be improved, results show a subjective quality equivalent to the tested standard and hardly transparent toward the original sounds

Nous démontrons dans cette thèse comment l'étude d'équations à difusion rapide telles que :@tu = 4u1−1/n, n 2 R, n > 2, conduit à établir des inégalités de Sobolev sous des conditions de courbure minorée et de dimension finie sur l'opérateur diférentiel 4. Nous distinguons trois cas : courbure positive ou nulle, positive et négative, correspondant chacun aux trois modèles de courbure constante : l'espace Euclidien, la sphère et l'espace hyperbolique. Dans les deux premiers cas nous établissons notamment des inégalités qui interpolent entre les inégalités de Sobolev et de Sobolev-logarithmique, ainsi que des estimations de la vitesse de convergence de l'Équation. .
We prove in this Thesis how the study of fast-diffusion equations as @tu = 4u1−1/n, n 2 R, n > 2, lead to Sobolev inequalities, under curvature and dimension hypothesis on the differential operator 4. We distinguish three cases : nonnegative, positive and negative curvature, each of which corresponds to the three models with constant curvature : the Euclidean Space, the sphere and the hyperbolic space. In the first two cases we establish inequalities that interpolate between Sobolev and logarithmic-sobolev inequalities, as well as estimations on the rate of convergence of the last equation