Auswahl der wissenschaftlichen Literatur zum Thema „Risques de l'IA Générative“

L’émergence rapide des technologies d’intelligence artificielle générative confronte les organisations à d’importants défis éthiques et opérationnels. Avec une vitesse inédite, les progrès de l’IA générative et sa diffusion à grande échelle engendrent de nombreuses tensions, telles que la nécessité d’assurer la sécurité des utilisateurs tout en encourageant l’innovation et l’expérimentation. Cela requiert la mise en place d’outils de gouvernance spécifiques. Cette situation a conduit à se pencher sur l’élaboration de chartes d’utilisation visant à trouver le juste équilibre entre ces différents enjeux. Cette étude exploratoire propose un cadre pour développer de telles chartes, basé sur une approche par niveaux de maturité progressifs. La méthodologie s’appuie sur les réflexions d’un groupe de travail pluridisciplinaire animé par la Chaire Essec du Changement et composé d’entreprises et des experts académiques, complétées par des entretiens individuels et une revue de littérature académique. Les résultats recommandent trois niveaux de chartes (base, intermédiaire, avancé) adaptés aux différents degrés d’exposition aux risques. Une démarche participative impliquant l’ensemble des parties prenantes est préconisée, de même que des processus de gouvernance agiles et un suivi rigoureux. Si cette approche ouvre des pistes intéressantes, des développements ultérieurs seront nécessaires pour affiner les liens avec une grille de maturité organisationnelle.

Les technologies d’IA générative telles que Chat GPT-4, DALL.E 2 et Stable Diffusion sont au premier plan des discussions, s’agissant de leur impact sur des secteurs tels que le commerce, l'éducation et la création, en particulier en ce qui concerne les droits de propriété intellectuelle et les risques potentiels de violation de ces derniers. Ces technologies remettent en question les lois existantes sur le droit d’auteur, notamment en termes de droits de reproduction et d’adaptation, créant un équilibre complexe entre l’innovation technologique et les titulaires de droits. La Directive sur le droit d’auteur dans le marché unique numérique de l’Union européenne prévoit certaines exceptions pour l’entraînement de l’IA à travers le minage de textes et de données, mais celles-ci ne s'étendent pas à tous les droits, conduisant à un paysage juridique nuancé. De plus, les spécificités locales en matière de droits de propriété intellectuelle, comme celles de l’UE, du Royaume-Uni, de l’Espagne et de l’Allemagne, compliquent davantage les choses, en particulier en ce qui concerne les bases de données, les photographies et les images de personnes réelles. Cette complexité est accentuée par les débats et les défis juridiques en cours dans différents pays, comme l’UE, le Royaume-Uni et les États-Unis, sur la question de savoir si les œuvres générées par l’IA peuvent être éligibles à la protection du droit d’auteur, reflétant la nature évolutive et incertaine du droit d’auteur à l'ère de l’IA.

Cet article explore comment l'IA générative transforme les fonctions de ressources humaines en augmentant leur efficacité et en réduisant les biais dans certaines tâches telles que le recrutement, la gestion des talents et l'évaluation des performances. Les processus RH traditionnels étant longs et souvent biaisés, l'IA générative offre des solutions rationalisées et impartiales. Cette recherche implique d'examiner les applications pratiques de l'IA en RH, les impacts sur les rôles professionnels et la structure organisationnelle, ainsi que les stratégies de gestion des risques liés à la dépendance technologique et à la sécurité des données. Les principales conclusions mettent en évidence l'importance stratégique de la gestion des risques associés tout en notant des améliorations significatives en termes d'efficacité et de charge de travail pour les professionnels des ressources humaines.

L'intelligence artificielle générative est en train d'envahir les bureaux et les salles de réunion des entreprises, ce qui soulève des questions sur les avantages et les inconvénients de son utilisation dans l'entreprise. La première question fondamentale est de savoir si l'IA générative change vraiment la donne, et est source d’avantage. Nous regardons donc des indicateurs d’intérêt et notamment les gains de productivité associés à trois pratiques susceptibles d’etre affectée par l’IA générative, dont l’écriture de logiciel, la formation de contenu et l’interaction clients. Nous constatons qu’il y a des avantages matériels, ce nouveau moment de l'IA peut sembler un peu chaotique, mais il est certainement en train de trouver des gisements de productivité que le monde de l’entreprise ne peut ignorer. Il n’empêche que ceux-ci varient toutefois considérablement d'un cas à l'autre augurant d’un risque d’une nouvelle fracture numérique (« digital divide »).

Cet article se penche sur la révolution de l'intelligence artificielle (IA) générative dans les entreprises de services du numérique (ESN), en mettant l'accent sur les modèles de fondation comme GPT-4. Il examine les débats entourant ces technologies, notamment leurs implications en termes de désinformation par les hallucinations, les biais sociaux qu’ils véhiculent, et leur influence sur la transformation numérique des organisations. Il débute par une exploration de l'émergence de l'IA générative, soulignant les avancées technologiques et leurs impacts pratiques. L'article évalue les capacités actuelles de l'IA générative et son potentiel, en mettant en évidence son rôle dans la redéfinition du marché du travail, notamment sur le plan des compétences. Le cœur de l'étude se concentre sur les défis et les opportunités stratégiques pour les ESN. En examinant la manière dont l'IA générative transforme les fonctions traditionnelles et crée de nouvelles stratégies, l'article souligne l'importance pour les ESN de reconsidérer leur position dans la chaîne de valeur informatique. Nous explorons comment l'adoption de l'open-innovation et les innovations des modèles d'affaires peuvent favoriser l'adaptation des ESN à ces enjeux et faisons appel en conclusion à des études empiriques pour approfondir ces thématiques.

Cet article présente une étude préliminaire sur l'impact de l'intelligence artificielle générative dans l'enseignement supérieur, notamment sur les méthodes pédagogiques. Il discute des défis et opportunités présentés par l'intégration de ces technologies dans les cours universitaires. L'étude souligne que l'IA générative, en modifiant l'accès à l'information et les méthodes d'enseignement, offre un potentiel substantiel pour enrichir l'apprentissage. Cependant, il met également en lumière la nécessité d'une approche équilibrée qui assure une utilisation éthique et efficace de l'IA, tout en soutenant les objectifs pédagogiques fondamentaux et en favorisant une réflexion critique parmi les étudiants.

Les lectrices et lecteurs de la revue apprécient sa qualité et auront vite pardonné cette petite provocation : « Management & Data Science compte désormais ChatGPT parmi ses auteurs. Le robot proposera régulièrement un avis d’expert... ». Par ces temps de tweets ou gazouillis si rapides, il faut juste espérer que le buzz ne retienne pas uniquement le premier degré de cette amusante formule. La revue nous place ainsi dans une situation de responsabilité : nous devons d'abord rappeler pourquoi ChatGPT n'est ni un auteur ni un expert. Nous devons ensuite monter que nous sommes à la fois atterrés par certains discours sur l'IA Générative, mais aussi très intéressés par la façon dont les différents systèmes SIAG pourraient être appropriés dans l’enseignement supérieur. Nous le ferons ici en présentant 19 propositions sur « les implications pédagogiques et les implications stratégiques des SIAG dans le secteur de l'éducation ». Ces propositions sont actuellement la base de travail d'un panel de type « Delphi » réunissant 34 experts internationaux (de vrais auteurs).

Depuis quelques mois déjà, l’IA générative, à l’instar des applications telles que ChatGPT, Google Bard, ou plus récemment, Gemini, fait régulièrement la une des médias. Elle alimente les débats, suscite des réactions, et soulève des questionnements. L’IA générative bouleverse nos sociétés et les secteurs économiques. Même le monde de l’enseignement supérieur et de la recherche n’y échappe pas. Aussi, bien que les arguments militants en faveur de l’IA sont légion (mais aussi ceux prétextant ses risques), rares sont les développements mettant en perspective les éléments d’application de cette technologie dans la pédagogie. Quelles sont les potentialités de l’IA dans l’innovation pédagogique, et comment les enseignants pourraient les explorer ? L’article tente d’apporter quelques orientations en réponse à un tel questionnement. Les potentialités de l’IA dans l’innovation pédagogique sont nombreuses, que ce soit pour le tutorat personnalisé ou pour l’apprentissage. Certes, il existe encore des risques qu’il convient d’intégrer en amont d’une appropriation. Néanmoins, à mesure que la compréhension des avantages et des limites de l’IA augmentera, davantage d'initiatives à l'échelle des établissements d’enseignement émergeront certainement.

L’intelligence artificielle (IA) transforme en profondeur les secteurs de l’éducation et de l’enseignement supérieur. Cet éditorial explore comment les systèmes éducatifs intègrent l’IA dans leur gouvernance, leur gestion et leur politique. Il aborde les enjeux éthiques, les défis de la personnalisation de l’apprentissage ainsi que les risques liés aux biais algorithmiques. Les articles présentés dans ce numéro proposent une réflexion sur les impacts de l'IA, notamment dans le développement professionnel des enseignants, la gouvernance scolaire basée sur les données ainsi que les perceptions et usages de technologies comme ChatGPT et les chatbots dans les milieux éducatifs.

L'intelligence artificielle (IA) transforme rapidement le monde, redéfinissant les relations entre technologie et société. Cette thèse explore le besoin essentiel de développer, de gouverner et d'utiliser l'IA et l'IA générative (IAG) de manière responsable et durable. Elle traite des risques éthiques, des lacunes réglementaires et des défis associés aux systèmes d'IA, tout en proposant des cadres concrets pour promouvoir une Intelligence Artificielle Responsable (IAR) et une Innovation Numérique Responsable (INR).La thèse commence par une analyse approfondie de 27 déclarations éthiques mondiales sur l'IA pour identifier des principes dominants tels que la transparence, l'équité, la responsabilité et la durabilité. Bien que significatifs, ces principes manquent souvent d'outils pratiques pour leur mise en œuvre. Pour combler cette lacune, la deuxième étude de la recherche présente un cadre intégrateur pour l'IAR basé sur quatre dimensions : technique, IA pour la durabilité, juridique et gestion responsable de l'innovation.La troisième partie de la thèse porte sur l'INR à travers une étude qualitative basée sur 18 entretiens avec des gestionnaires de secteurs divers. Cinq dimensions clés sont identifiées : stratégie, défis spécifiques au numérique, indicateurs de performance organisationnels, impact sur les utilisateurs finaux et catalyseurs. Ces dimensions permettent aux entreprises d'adopter des pratiques d'innovation durable et responsable tout en surmontant les obstacles à leur mise en œuvre.La quatrième étude analyse les risques émergents liés à l'IAG, tels que la désinformation, les biais, les atteintes à la vie privée, les préoccupations environnementales et la suppression d'emplois. À partir d'un ensemble de 858 incidents, cette recherche utilise une régression logistique binaire pour examiner l'impact sociétal de ces risques. Les résultats soulignent l'urgence d'établir des cadres réglementaires renforcés, une responsabilité numérique des entreprises et une gouvernance éthique de l'IA.En conclusion, cette thèse apporte des contributions critiques aux domaines de l'INR et de l'IAR en évaluant les principes éthiques, en proposant des cadres intégratifs et en identifiant des risques émergents. Elle souligne l'importance d'aligner la gouvernance de l'IA sur les normes internationales afin de garantir que les technologies d'IA servent l'humanité de manière durable et équitable
Artificial Intelligence (AI) is rapidly transforming the world, redefining the relationship between technology and society. This thesis investigates the critical need for responsible and sustainable development, governance, and usage of AI and Generative AI (GAI). The study addresses the ethical risks, regulatory gaps, and challenges associated with AI systems while proposing actionable frameworks for fostering Responsible Artificial Intelligence (RAI) and Responsible Digital Innovation (RDI).The thesis begins with a comprehensive review of 27 global AI ethical declarations to identify dominant principles such as transparency, fairness, accountability, and sustainability. Despite their significance, these principles often lack the necessary tools for practical implementation. To address this gap, the second study in the research presents an integrative framework for RAI based on four dimensions: technical, AI for sustainability, legal, and responsible innovation management.The third part of the thesis focuses on RDI through a qualitative study of 18 interviews with managers from diverse sectors. Five key dimensions are identified: strategy, digital-specific challenges, organizational KPIs, end-user impact, and catalysts. These dimensions enable companies to adopt sustainable and responsible innovation practices while overcoming obstacles in implementation.The fourth study analyzes emerging risks from GAI, such as misinformation, disinformation, bias, privacy breaches, environmental concerns, and job displacement. Using a dataset of 858 incidents, this research employs binary logistic regression to examine the societal impact of these risks. The results highlight the urgent need for stronger regulatory frameworks, corporate digital responsibility, and ethical AI governance. Thus, this thesis provides critical contributions to the fields of RDI and RAI by evaluating ethical principles, proposing integrative frameworks, and identifying emerging risks. It emphasizes the importance of aligning AI governance with international standards to ensure that AI technologies serve humanity sustainably and equitably

L’@interleukine-10 (IL-10) est une cytokine jouant un rôle primordial dans la régulation des réactions immunitaires et inflammatoires. Bien que de nombreux arguments expérimentaux et des modèles animaux plaident en faveur d’un rôle de l’IL-10 dans la régulation de l’hémostase, l’implication de cette cytokine en pathologie vasculaire est peu appréhendée. Des polymorphismes génétiques situés sur le promoteur du gène de l’IL-10 ont été rapportés comme influençant son taux de sécrétion. Par ailleurs, certains polymorphismes sont associés à un risque de pathologie dysimmunitaire. Dans ce contexte, nous avons mis au point plusieurs modèles de culture cellulaire afin d’analyser la sécrétion d’IL-10 chez 20 volontaires sains, de génotype connu. L’IL-10 étant connue pour réguler l’expression du facteur tissulaire (FT), nous avons mis au point un modèle original d’étude de l’effet de l’IL-10 sur la cinétique de génération de thrombine induite par le monocyte activé. Nous avons ainsi montré le rôle modulateur de la sécrétion d’IL-10 endogène sur la génération de thrombine. En parallèle, deux études cliniques ont été menées. La première étude porte sur le risque de la maladie thromboembolique veineuse et montre que le polymorphisme IL-10 G13 est associé à un risque de thrombose veineuse (Thromb Haemost 2006 ;96 :24-8). La seconde étude concerne le risque de pathologie vasculo-placentaire. L’étude montre que le polymorphisme de substitution d’acide nucléique (-819T) est associé à la survenue de fausses couches précoces. Ces arguments plaident en faveur d’un rôle de l’IL-10 en pathologie vasculaire.

Le recrutement est un acte à fort enjeu pour une organisation, un acte dans lequel les risques d'échec sont bien réels. C'est par ailleurs une activité consommatrice de temps, dans laquelle on poursuit souvent un rêve d'objectivité, couplé à l'illusion que le candidat idéal existe forcément quelque part. Autant d'excellentes raisons pour recourir à l'Intelligence Artificielle et à ses algorithmes afin de gagner en collecte, cadence de traitement, fiabilité et qualité. On traite des usages et outils, de la réalité de ces avantages. On aborde les nouveaux risques qui apparaissent dans une pratique de recrutement basée sur l'IA. Des niches apparaissent, où le bilan pourrait être positif, dans une situation globale où le recours aux algorithmes dans le processus complexe du recrutement parait encore peu usité, peut-être moins efficace et objectif qu'imaginé.

À travers une série captivante de Dialogues interdisciplinaires sur les impacts sociétaux de l’IA, nous convions une ou un invité et des intervenantes et intervenants, provenant des sciences et génies, de la santé et des sciences humaines et sociales, à venir discuter des avancées, des défis et des opportunités soulevés par l’IA. Le premier dialogue de cette série débute avec Yoshua Bengio, qui, préoccupé par les développements de l’IA générative et des risques majeurs qu’ils engendrent pour la société, a initié l’organisation d’une conférence à ce sujet. Cette activité s’est déroulée le 14 août 2023 à Montréal et avait pour but d’engager une réflexion collective et interdisciplinaire sur les enjeux et risques posés par les récents développements de l’IA. La conférence a pris la forme d’un panel, animé par Juliette Powell, auquel était convié sept spécialistes provenant de disciplines variées : informatique (Yoshua Bengio et Golnoosh Farnadi), droit (Caroline Lequesne et Claire Boine), philosophie (Jocelyn Maclure), communication (Sonja Solomun) et science politique (Hugo Loiseau). Le présent document est ainsi issu de ce premier dialogue interdisciplinaire sur les impacts sociétaux de l’IA. Par la suite, les intervenantes et intervenants ont été invités à répondre de manière concise, dans la langue de leur choix, à des questions soulevées lors de cette activité.

Le développement de l’intelligence artificielle présente de nombreux bénéfices pour les individus et les sociétés, mais aussi d’importants enjeux. Leur intégration progressive à nos usages personnels et professionnels et leur performance évolutive suscitent des questionnements sur les risques associés à cette transformation technologique dans nos rapports sociaux à l’échelle mondiale. Comment assurer le développement éthique et responsable de ces IA afin que ces technologies puissent bénéficier à l’ensemble des sociétés? Cette boîte à questions vise à démystifier les concepts et les caractéristiques des systèmes d’intelligence artificielle et leurs enjeux éthiques et juridiques afin d’en stimuler les réflexions et les débats.

Il existe un vaste consensus sur l’impact considérable qu’aura l’intelligence artificielle (IA) sur la nature du travail et des emplois du futur. Cependant, il y a moins de certitude quant à la nature de ces impacts et à la manière dont ils se manifesteront dans différents secteurs et types d’emplois. Ce rapport se concentre sur les professions régies par un ordre professionnel au Québec et vise à apporter des éléments de réponse préliminaires à la question suivante: «Comment les ordres professionnels du Québec peuvent-ils se préparer et s’adapter à la nouvelle ère de l’IA?» Pour répondre à cette question, une revue de la littérature d’une sélection de publications professionnelles et scientifiques ainsi que des entretiens avec des experts en la matière ont été effectués. Quatre principaux enjeux transversaux auxquels font face les professions de divers secteurs d’activités sont identifiés dans la recherche: 1. Évolution constante de l’IA 2. Déterminer le rythme d’adoption de l’IA 3. Préserver le rôle du professionnel 4. Accompagner ses clients et patients Sous-jacents à ces quatre enjeux, se trouvent 14 défis distincts qui représentent des obstacles potentiels au déploiement et à l’utilisation efficaces de l’IA au sein du système professionnel québécois. La recherche n’a révélé aucun enjeu ou défi associé à l’IA propre à l’un ou l’autre des 3 secteurs d’activité dans lesquels sont regroupés les ordres professionnels au Québec. Cependant, il y a 4 considérations particulières qui influent sur la nature et l’importance des enjeux et des défis auxquels sont confrontés les ordres professionnels et leurs membres, notamment: - Le type de l’IA déployée, - Le contexte organisationnel dans lequel le professionnel exerce ses activités - Le type de tâches affectées par l’IA Les risques liés aux personnes Dans la dernière partie du rapport, 6 recommandations sont proposées pour aider les parties prenantes du système professionnel québécois à répondre aux défis qui les attendent. Ces recommandations pourront servir à la réflexion que suscite cette transformation technologique: 1. S’engager dans un dialogue proactif avec les professionnels 2. Fournir des balises claires en matière d’imputabilité et responsabilité 3. Adapter les programmes de formation 4. Garantir la priorité de la décision humaine 5. Devenir des partenaires de confiance dans le développement de l’IA 6. Assurer la santé et le bien-être des professionnels

Les autorités fédérale, provinciales et territoriales du Canada, dont la Commission d’accès à l’information du Québec, ont lancé en juin 2021 un avis de consultation et appel aux observations en lien avec le document d’orientation à l’intention des services de police fédéraux, provinciaux, régionaux et municipaux visant à définir les obligations de ces dernières en matière de protection de la vie privée relativement à l’utilisation de la technologie de reconnaissance faciale (RF), afin de garantir que toute utilisation de celle-ci ne contrevient pas à la loi, limite les risques d’atteinte à la vie privée et respecte le droit à la vie privée. Dans le cadre de cet avis de consultation et appel aux observations, trois chercheuses et chercheurs de l'OBVIA ont apporté des observations pour aider à l'amélioration du document. Ils considèrent en particulier que l'utilisation de la reconnaissance faciale par les services de police doit faire l'objet d'un meilleur encadrement légal et éthique au-delà du respect des lois de protection des renseignements personnels qu'ils estiment insuffisantes pour faire face aux nombreux enjeux sociaux. Ils estiment aussi que les services de police doivent être formés aux enjeux liés notamment aux risques d'erreur, biais, discrimination et surveillance de masse. Ils soulignent enfin le fait que l’atteinte à la vie privée s’accompagne ici le plus souvent de l’atteinte à d’autres droits fondamentaux. Ils recommandent l'élaboration d'un référentiel de valeurs visant à éclairer les interventions en matière de sécurité publique et mieux soutenir la réflexion des professionnels. Ces recommandations ont été déposées conjointement par l'Observatoire international sur les impacts sociétaux de l'IA et du numérique (OBVIA) et la Chaire de recherche sur l’IA responsable à l’échelle mondiale auprès du Commissariat à la protection de la vie privée du Canada et de la Commission d'accès à l'information du Québec.

Si la désinformation ne date pas d'hier, l’arrivée d’Internet et, plus récemment, l'essor de l’Intelligence Artificielle (IA),dont l’IA générative, ont contribué à l'amplification de ce phénomène. Tandis qu’auparavant la création et la diffusion de campagnes de désinformation étaient coûteuses en temps et en argent, l’IA facilite, aujourd’hui, la création de contenus trompeurs à grande échelle, causant ainsi une augmentation des risques de la désinformation. Depuis quelques années, plusieurs initiatives pour éduquer la population contre la désinformation propulsée par l’utilisation non éthique de l’IA ont vu le jour dans le monde. Pour orienter la recherche et concerter les efforts, ce rapport présente les résultats d’une recension de telles initiatives. Sans prétendre à l'exhaustivité, cette recension permet d’avoir une idée de la variété des approches visant à informer et éduquer les personnes apprenantes et le personnel enseignant sur cette nouvelle réalité. Ce document permet à la communauté scientifique, à la classe politique, au personnel enseignant et aux conseillers et conseillères pédagogiques de consulter ce qui se fait déjà à différents endroits dans le monde. En découvrant ces initiatives, ces acteurs et actrices scolaires pourront prendre connaissance des angles morts en recherche sur le sujet, des possibles orientations de programmes ou encore des idées d’activités complètes et déjà testées pour éduquer sur cette réalité. Comme ce document contient aussi plusieurs ressources de développement professionnel sur le sujet de la désinformation propulsée par IA, il permet aussi au personnel enseignant ou aux conseillères et conseillers pédagogiques d’avoir accès à des sources pertinentes pour en apprendre plus sur ce phénomène.