Academic literature on the topic 'Modèles de langage protéique'

Les protéines sont essentielles aux processus biologiques. Comprendre leur dynamique est crucial pour élucider leurs fonctions biologiques et leurs interactions. Cependant, mesurer expérimentalement cette flexibilité reste un défi en raison des limitations techniques et des coûts associés. Cette thèse vise à approfondir la compréhension des propriétés dynamiques des protéines et à proposer des méthodes bioinformatique permettant de prédire leur flexibilité directement à partir de leur séquence. Ces travaux s'organisent en quatre axes principaux : 1) Prédiction de la flexibilité des protéines en termes de B-facteurs. Nous avons développé MEDUSA, une méthode de prédiction de la flexibilité basée sur l'apprentissage profond, qui exploite les informations physico-chimiques et évolutives des acides aminés pour prédire des classes de flexibilité expérimentale à partir des séquences protéiques. MEDUSA s'est révélé plus performant que les outils précédemment disponibles, mais présente des limitations en raison de la variabilité des données expérimentales. 2) Analyse à grande échelle de la dynamique protéique in silico. Nous avons mis à disposition ATLAS, une base de données de simulations de dynamique moléculaire tout-atome standardisées, fournissant des informations détaillées sur la flexibilité des protéines pour plus de 1500 structures représentatives. ATLAS permet une analyse interactive de la dynamique des protéines à différents niveaux et offre des informations précieuses sur les protéines présentant des comportements dynamiques atypiques, tels que les fragments à double personnalité. 3) Analyse approfondie du score pLDDT d'AlphaFold 2 et sa relation avec la flexibilité des protéines. Nous avons évalué la corrélation du pLDDT avec différents descripteurs de flexibilité dérivés de simulations de dynamique moléculaire et d'ensembles RMN, et démontré que la confiance dans la prédiction de la structure 3D ne reflète pas nécessairement la flexibilité attendue de la région protéique, en particulier pour les fragments protéiques impliqués dans des interactions moléculaires. 4) Prédiction des descripteurs de flexibilité dérivés de la dynamique moléculaire à partir des embeddings de langages protéiques. Nous présentons PEGASUS, un nouvel outil de prédiction de la flexibilité développé à partir de la base de données ATLAS. En utilisant l'encodage des séquences protéiques par des modèles de langage protéique et un modèle d'apprentissage profond simple, PEGASUS fournit des prédictions précises des métriques de flexibilité et capture efficacement l'impact des mutations sur la dynamique des protéines. Les perspectives de ce travail incluent l'enrichissement des simulations avec des environnements variés et l'intégration des protéines membranaires pour améliorer PEGASUS et réaliser de nouvelles analyses. Nous évoquons également l'émergence des méthodes capables de prédire des ensembles conformationnels, offrant des avancées prometteuses pour mieux capturer la dynamique des protéines. Cette thèse ouvre de nouvelles perspectives pour la prédiction et l'analyse de la flexibilité des protéines, ouvrant la voie à des avancées dans des domaines tels que la recherche biomédicale, l'étude des mutations et la conception de médicaments<br>Proteins are essential to biological processes. Understanding their dynamics is crucial for elucidating their biological functions and interactions. However, experimentally measuring protein flexibility remains challenging due to technical limitations and associated costs. This thesis aims to deepen the understanding of protein dynamic properties and to propose computational methods for predicting their flexibility directly from their sequence. This work is organised in four main contributions: 1) Protein flexibility prediction in terms of B-factors. We have developed MEDUSA, a flexibility prediction method based on deep learning, which leverages the physicochemical and evolutionary information of amino acids to predict experimental flexibility classes from protein sequences. MEDUSA has outperformed previously available tools but shows limitations due to the variability of experimental data. 2) Large-scale analysis of in silico protein dynamics. We have released ATLAS, a database of standardised all-atom molecular dynamics simulations providing detailed information on protein flexibility for over 1.5k representative protein structures. ATLAS enables interactive analysis of protein dynamics at different levels and offers valuable insights into proteins exhibiting atypical dynamical behaviour, such as dual personality fragments. 3) An in-depth analysis of AlphaFold 2's pLDDT score and its relation to protein flexibility. We have assessed pLDDT correlation with different flexibility descriptors derived from molecular dynamics simulations and from NMR ensembles and demonstrated that confidence in 3D structure prediction does not necessarily reflect expected flexibility of the protein region, in particular, for protein fragments involved in molecular interaction. 4) Prediction of MD-derived flexibility descriptors using protein language embeddings. We introduce PEGASUS, a novel flexibility prediction tool developed using ATLAS database. Using protein sequence encoding by protein language models and a simple deep learning model, PEGASUS provides precise predictions of flexibility metrics and effectively captures the impact of mutations on protein dynamics. The perspectives of this work include enriching simulations with varied environments and integrating membrane proteins to enhance PEGASUS and enable new analyses. We also highlight the emergence of methods capable of predicting conformational ensembles, offering promising advances for better capturing protein dynamics. This thesis offers new perspectives for the prediction and analysis of protein flexibility, paving the way for advances in areas such as biomedical research, mutation studies, and drug design

Les mammifères identifient et interprètent une myriade de stimuli olfactifs par un mécanisme de codage complexe reposant sur la reconnaissance des molécules odorantes par des centaines de récepteurs olfactifs (RO). Ces interactions génèrent des combinaisons uniques de récepteurs activés, appelées code combinatoire, que le cerveau humain interprète comme la sensation que nous appelons l'odeur. Jusqu'à présent, le grand nombre de combinaisons possibles entre les récepteurs et les molécules a empêché une étude expérimentale à grande échelle de ce code et de son lien avec la perception des odeurs. La révélation de ce code est donc cruciale pour répondre à la question à long terme de savoir comment nous percevons notre environnement chimique complexe. Les RO appartiennent à la classe A des récepteurs couplés aux protéines G (RCPG) et constituent la plus grande famille multigénique connue. Pour étudier de façon systématique le codage olfactif, nous avons développé M2OR, une base de données exhaustive compilant les 25 dernières années d'essais biologiques sur les RO. À l'aide de cet ensemble de données, un modèle d'apprentissage profond sur mesure a été conçu et entraîné. Il combine l'intégration de jetons [CLS] d'un modèle de langage des protéines avec des réseaux de neurones en graphes et un mécanisme d'attention multi-têtes. Ce modèle prédit l'activation des RO par les odorants et révèle le code combinatoire résultant pour toute molécule odorante. Cette approche est affinée en développant un nouveau modèle capable de prédire l'activité d'un odorant à une concentration spécifique, permettant alors d'estimer la valeur d'EC50 de n'importe quelle paire OR-odorant. Enfin, les codes combinatoires dérivés des deux modèles sont utilisés pour prédire la perception olfactive des molécules. En incorporant des biais inductifs inspirés par la théorie du codage olfactif, un modèle d'apprentissage automatique basé sur ces codes est plus performant que l'état de l'art actuel en matière de prédiction d'odeurs. À notre connaissance, il s'agit de l'application la plus aboutie liant le code combinatoire à la prédiction de l'odeur d'une molécule. Dans l'ensemble, ce travail établit un lien entre les interactions complexes molécule odorante-récepteur et la perception humaine<br>Mammals identify and interpret a myriad of olfactory stimuli using a complex coding mechanism involving interactions between odorant molecules and hundreds of olfactory receptors (ORs). These interactions generate unique combinations of activated receptors, called the combinatorial code, which the human brain interprets as the sensation we call smell. Until now, the vast number of possible receptor-molecule combinations have prevented a large-scale experimental study of this code and its link to odor perception. Therefore, revealing this code is crucial to answering the long-term question of how we perceive our intricate chemical environment. ORs belong to the class A of G protein-coupled receptors (GPCRs) and constitute the largest known multigene family. To systematically study olfactory coding, we develop M2OR, a comprehensive database compiling the last 25 years of OR bioassays. Using this dataset, a tailored deep learning model is designed and trained. It combines the [CLS] token embedding from a protein language model with graph neural networks and multi-head attention. This model predicts the activation of ORs by odorants and reveals the resulting combinatorial code for any odorous molecule. This approach is refined by developing a novel model capable of predicting the activity of an odorant at a specific concentration, subsequently allowing the estimation of the EC50 value for any OR-odorant pair. Finally, the combinatorial codes derived from both models are used to predict the odor perception of molecules. By incorporating inductive biases inspired by olfactory coding theory, a machine learning model based on these codes outperforms the current state-of-the-art in smell prediction. To the best of our knowledge, this is the most comprehensive and successful application of combinatorial coding to odor quality prediction. Overall, this work provides a link between the complex molecule-receptor interactions and human perception

Ces travaux portent sur l'évaluation des modèles de langages en dehors de toute tâche applicative. Le problème d'une étude comparative entre plusieurs modèles est généralement lié à la fonction dans un système complet. Notre objectif consiste au contraire à s'abstraire au maximum des contraintes liées au système, et ainsi pourvoir comparer effectivement les modèles. Le critère le plus couramment admis pour une comparaison de modèles de langage est la perplexité. Ces travaux reprennent les hypothèses du jeu de Shannon, de manière à poser un cadre d'évaluation des modèles de langage fondée sur leur capacité de prédiction. La méthodologie s'intéresse à la prédiction conjointe de mots, et reste indépendante de toute tâche applicative, de la nature du modèle, ainsi que du nombre de paramètres de ce modèle. Des expériences sont menées sur la modélisation du français et de l'anglais à partir de vocabulaires de taille variable, et différents modèles sont mis en concurrence<br>This work deals with the evaluation of language models independently of any applicative task. A comparative study between several language models is generally related to the role that a model has into a complete system. Our objective consists in being independant of the applicative system, and thus to provide a true comparison of language models. Perplexity is a widely used criterion as to comparing language models without any task assumptions. However, the main drawback is that perplexity supposes probability distributions and hence cannot compare heterogeneous models. As an evaluation framework, we went back to the definition of the Shannon's game which is based on model prediction performance using rank based statistics. Our methodology is able to predict joint word sequences that are independent of the task or model assumptions. Experiments are carried out on French and English modeling with large vocabularies, and compare different kinds of language models

Les travaux menés dans cette thèse se concentrent sur les problèmes de partage, d'interrogation et de médiation rencontrés dans les systèmes d'information de nouvelle génération qui s'articulent autour de sources de données, d'objets, et de composants largement distribués. Dans cet environnement, différents systèmes coexistent : des SGBD, des serveurs LDAP et des architectures à objets distribués. Les limites actuelles des services d'annuaires et leur interaction toujours plus grande avec l'environnemnet qui les entoure (SGBDs, objets,. . . ) nous a amené à étudier la définition d'un service d'annuaires capable, tout en conservant la flexibilité et la compatibilité avec les modèles existants, de proposer des fonctionnalités avancées telles que : la manipulation de données riches englobant des valeurs mais également des programmes, le support adapté pour le partage d'objets et des capacités d'interrogation étendues. En effet, les facilités d'interrogation dans LDAP sont relativement pauvres et il serait intéressant de les enrichir pour permettre des recherches plus complexes incluant des parcours de chemin, des calculs d'agrégats, etc. Le challenge consiste ici à trouver le bon compromis entre le pouvoir d'expression du langage et la charge imposée au service d'annuaires. L'introduction de nouvelles fonctionnalités dans le service d'annuaires a un impact important sur les performances du système, aussi bien du point de vue des temps de réponse que des ressources consommées pour évaluer une requête. Un autre aspect de cette intégration des annuaires avec leur environnement concerne le partage de données communes entre ces différents systèmes, comme les données d'identification par exemple. Pour assurer cette intégration, notre solution consiste à mettre en place une couche de médiation entre les deux systèmes, afin de permettre à un utilisateur de manipuler ses données en utilisant soit le modèle relationnel dans le cax des SGBD relationnels, soit le modèle LDAP.

Cette thèse explore la synergie entre l'intelligence artificielle (IA) et la neuroscience cognitive pour faire progresser les capacités de traitement du langage. Elle s'appuie sur l'idée que les avancées en IA, telles que les réseaux neuronaux convolutionnels et des mécanismes comme le « replay d'expérience », s'inspirent souvent des découvertes neuroscientifiques. Cette interconnexion est bénéfique dans le domaine du langage, où une compréhension plus profonde des capacités cognitives humaines uniques, telles que le traitement de structures linguistiques complexes, peut ouvrir la voie à des systèmes de traitement du langage plus sophistiqués. L'émergence de riches ensembles de données neuroimagerie naturalistes (par exemple, fMRI, MEG) aux côtés de modèles de langage avancés ouvre de nouvelles voies pour aligner les modèles de langage computationnels sur l'activité cérébrale humaine. Cependant, le défi réside dans le discernement des caractéristiques du modèle qui reflètent le mieux les processus de compréhension du langage dans le cerveau, soulignant ainsi l'importance d'intégrer des mécanismes inspirés de la biologie dans les modèles computationnels.En réponse à ce défi, la thèse introduit un cadre basé sur les données qui comble le fossé entre le traitement neurolinguistique observé dans le cerveau humain et les mécanismes computationnels des systèmes de traitement automatique du langage naturel (TALN). En établissant un lien direct entre les techniques d'imagerie avancées et les processus de TALN, elle conceptualise le traitement de l'information cérébrale comme une interaction dynamique de trois composantes critiques : le « quoi », le « où » et le « quand », offrant ainsi des perspectives sur la manière dont le cerveau interprète le langage lors de l'engagement avec des récits naturalistes. L'étude fournit des preuves convaincantes que l'amélioration de l'alignement entre l'activité cérébrale et les systèmes de TALN offre des avantages mutuels aux domaines de la neurolinguistique et du TALN. La recherche montre comment ces modèles computationnels peuvent émuler les capacités de traitement du langage naturel du cerveau en exploitant les technologies de réseau neuronal de pointe dans diverses modalités - langage, vision et parole. Plus précisément, la thèse met en lumière comment les modèles de langage pré-entraînés modernes parviennent à un alignement plus étroit avec le cerveau lors de la compréhension de récits. Elle examine le traitement différentiel du langage à travers les régions cérébrales, le timing des réponses (délais HRF) et l'équilibre entre le traitement de l'information syntaxique et sémantique. En outre, elle explore comment différentes caractéristiques linguistiques s'alignent avec les réponses cérébrales MEG au fil du temps et constate que cet alignement dépend de la quantité de contexte passé, indiquant que le cerveau code les mots légèrement en retard par rapport à celui actuel, en attendant plus de contexte futur. De plus, elle met en évidence la plausibilité biologique de l'apprentissage des états de réservoir dans les réseaux à état d'écho, offrant ainsi une interprétabilité, une généralisabilité et une efficacité computationnelle dans les modèles basés sur des séquences. En fin de compte, cette recherche apporte des contributions précieuses à la neurolinguistique, à la neuroscience cognitive et au TALN<br>This thesis explores the synergy between artificial intelligence (AI) and cognitive neuroscience to advance language processing capabilities. It builds on the insight that breakthroughs in AI, such as convolutional neural networks and mechanisms like experience replay 1, often draw inspiration from neuroscientific findings. This interconnection is beneficial in language, where a deeper comprehension of uniquely human cognitive abilities, such as processing complex linguistic structures, can pave the way for more sophisticated language processing systems. The emergence of rich naturalistic neuroimaging datasets (e.g., fMRI, MEG) alongside advanced language models opens new pathways for aligning computational language models with human brain activity. However, the challenge lies in discerning which model features best mirror the language comprehension processes in the brain, underscoring the importance of integrating biologically inspired mechanisms into computational models. In response to this challenge, the thesis introduces a data-driven framework bridging the gap between neurolinguistic processing observed in the human brain and the computational mechanisms of natural language processing (NLP) systems. By establishing a direct link between advanced imaging techniques and NLP processes, it conceptualizes brain information processing as a dynamic interplay of three critical components: "what," "where," and "when", offering insights into how the brain interprets language during engagement with naturalistic narratives. This study provides compelling evidence that enhancing the alignment between brain activity and NLP systems offers mutual benefits to the fields of neurolinguistics and NLP. The research showcases how these computational models can emulate the brain’s natural language processing capabilities by harnessing cutting-edge neural network technologies across various modalities—language, vision, and speech. Specifically, the thesis highlights how modern pretrained language models achieve closer brain alignment during narrative comprehension. It investigates the differential processing of language across brain regions, the timing of responses (Hemodynamic Response Function (HRF) delays), and the balance between syntactic and semantic information processing. Further, the exploration of how different linguistic features align with MEG brain responses over time and find that the alignment depends on the amount of past context, indicating that the brain encodes words slightly behind the current one, awaiting more future context. Furthermore, it highlights grounded language acquisition through noisy supervision and offers a biologically plausible architecture for investigating cross-situational learning, providing interpretability, generalizability, and computational efficiency in sequence-based models. Ultimately, this research contributes valuable insights into neurolinguistics, cognitive neuroscience, and NLP

L'absence d'outils ergonomiques pour le traitement de systemes stochastiques complexes, comme on peut en trouver dans de nombreuses applications industrielles, a conduit le projet epatr de l'irisa a envisager la realisation d'une extension du langage de programmation signal pour la manipulation de systemes hybrides stochastiques/non-stochastiques. Developpe depuis une dizaine d'annees par le projet epatr, le langage signal est un langage flot de donnees de type equationnel, appartenant a la famille des langages synchrones et destine a la specification de systemes reactifs temps-reel. Une interface graphique integree a l'environnement signal permet de specifier des programmes de facon modulaire et hierarchique sous la forme de boites interconnectees. L'extension de signal aux modeles aleatoires, que l'on appelle signalea, doit permettre la specification de systemes complexes faisant intervenir des composantes aleatoires et des composantes de nature symbolique. Elle doit egalement fournir a l'utilisateur des methodes efficaces de simulation (simulation rapide d'evenements rares,) et d'estimation (reconnaissance de formes, diagnostic,) generees automatiquement a partir de la specification de depart. La definition de signalea a des le debut souleve des problemes mathematiques complexes, dont une etude approfondie a conduit a la definition du formalisme mathematique css. Le modele css ne s'interesse qu'aux cas ou le systeme etudie met en jeu un nombre fini de variables. Les objets de base de ce modele sont des systemes hybrides stochastiques/non-stochastiques. Nous definissons sur ces systemes une generalisation de la regle de bayes qui nous permet d'obtenir des methodes de simulation et d'estimation incrementales se rapprochant assez fortement des travaux de a. P. Dempster et g. Shafer en statistique et intelligence artificielle sur les fonctions de croyance et reseaux de croyance. La version de signalea que nous presentons dans ce document est sur une generalisation du langage signal qui permet d'inclure des bulles de type css. Elle donne la possibilite de specifier tout systeme dynamique aleatoire de type automate stochastique, ou hidden markov model (hmm). Dans le cas booleen, le calcul des primitives intervenant pour la simulation bayesienne a ete implemente en utilisant des techniques bdd (binary decision diagram). Enfin, nous apportons un element nouveau au modele css qui est la prise en compte de la hierarchie des systemes dans les algorithmes de simulation et d'estimation incrementales

Ce travail s'inscrit dans un contexte où la taille et la complexité des logiciels augmentent alors que les contraintes de temps de développement, de qualité, de maintenance et d'évolution sont toujours plus fortes. Pour répondre à cette tendance, l'ingénierie dirigée par les modèles constitue une évolution prometteuse des techniques de génie logiciel. Les idées de l'ingénierie dirigée par les modèles sont, d'une part de rendre les modèles productifs, et d'autre part d'automatiser certaines étapes du développement grâce à des transformations de modèles. Une des conditions pour que l'ingénierie dirigée par les modèles tienne ses promesses, en terme de productivité et de qualité, est d'assurer, tout d'abord, la correction des modèles, et ensuite, la correction des transformations utilisées. La contribution de ce travail s'articule autour de ces deux axes et constitue un premier pas vers la fiabilisation des processus de dévelopement dirigés pas les modèles. Le premier axe de ce travail vise à améliorer les possibilités de validation des modèles en proposant une plateforme pour la définition de langages de modélisation. En fonction des expériences et du domaine considéré, les modèles utilisés dans l'ingénierie dirigée par les modèles sont exprimés dans divers langages de modélisation. Comme tout langage, un langage de modélisation est constitué de plusieurs éléments de spécification : une syntaxe abstraite (ou méta-modèle), une sémantique et des contraintes syntaxiques et sémantiques. Pour assurer la précision et la cohérence d'un tel langage, il faut d'une part spécifier sans ambiguïtés chaque élément, et d'autre part assurer la bonne intégration des différents éléments entre eux. Or, les pratiques actuelles de l'ingénierie dirigée par les modèles utilisent des formalismes hétérogènes et parfois difficiles à exploiter (le langage naturel par exemple) pour la spécification de ces éléments. Afin d'améliorer la définition des langages de modélisation, nous proposons l'utilisation d'un coeur sémantique unique et précis. Ce coeur sémantique se présente sous la forme d'un langage appelé Kermeta. Au coeur de la plateforme d'ingénierie dirigée par les modèles développée par l'équipe Triskell, le langage Kermeta a été utilisé dans des contextes variés dont la transformation de modèles, la modélisation orientée-aspects et l'analyse d'exigences logicielles. L'utilisation de Kermeta pour ces applications a permis de valider le langage et de mettre en évidence ses avantages par rapport aux techniques existantes. Le second axe de ce travail concerne la validation des transformations de modèles. Celles-ci sont utilisées pour automatiser les phases du processus de développement qui peuvent l'être. Qu'il s'agisse de raffinement, de composition, de refactoring ou encore de génération de code, la qualité des transformations de modèles est primordiale pour assurer la qualité des logiciels développés. Il suffit en effet qu'une seule transformation utilisée soit erronée pour que l'ensemble du processus de développement soit fragilisé. Dans ce contexte, nous proposons une technique pour la sélection de modèles de test permettant la validation des programmes de transformation de modèles. Cette technique tire avantage du fait que toute transformation de modèles manipule des données dont la structure est décrite par un méta-modèle.

Les protéines solubles des vins blancs sont instables et peuvent précipiter au cours de la conservation des vins sous l'influence d'une augmentation de température. Nous proposons un nouveau modèle réactionnel de la casse protéique qui résulte principalement non pas de la dénaturation des protéines mais de l'intervention de composés non protéiques capables de les faire troubler. Ces molécules très probablement d'origine pelliculaire sont présentes dans les moûts et les vins sous forme de précurseurs qui par chauffage vont se transformer en molécules actives réagissant avec les protéines par des interactions qui pourraient être de nature ionique. La mise en place d'une cascade de purification a permis de montrer que ces molécules ne font très probablement pas partie des familles moléculaires suivantes : les composés phénoliques, les aldéhydes et les cétones ou peut-être les peptides<br>Soluble proteins of white wines are heat unstable and can precepitate during conservation. We propose a new reactional model for protein haze formation, which implies not only protein denaturation but essentially non-proteinaceous compounds involvement. These molecules, probably localized in grape skin, are present in must and wine as precursors. Heat transformes these molecules into active factors able to react with proteins probably through ionic interactions. A purification chain showed that these molecules do not seem to belong to the following molecular families : phenolic compounds, aldehydes and ketones, and probably peptides

Ce memoire montre l'interet des metalloporphyrines synthetiques dans la modelisation d'hemoproteines. Dans une premiere partie, des essais de synthese de complexes porphyriniques modelisant le cytochrome p-450 sont decrits. Dans une deuxieme partie, la modelisation de la chloroperoxydase par des metalloporphyrines encombrees anioniques de fer et de manganese libres en solution ou immobilisees sur support (adsorbees sur resine echangeuse d'ions ou fixees sur un polymere poly-vinylpyridine) est decrite. Dans une troisieme partie, la modelisation de la lignine peroxydase est etudiee. Ces memes modeles associes a des donneurs d'oxygene (monopersulfate de potassium, eau oxygenee et le sel de l'acide monoperoxyphtalique) permettent d'atteindre des activites catalytiques de 10 a 20 cycles par seconde lors de l'oxydation de composes modeles de la lignine. Ces catalyseurs biomimetiques originaux associes a plusieurs peroxydes organiques ou inorganiques sont a l'origine de l'elaboration de noueaux systemes catalytiques libres et supportes, resistants en milieu oxydant et du developpement de plusieurs procedes d'oxydation