Literatura científica selecionada sobre o tema "IA de confiance"

Cette recherche soulève la problématique de la perception par les auditeurs légaux et les vérificateurs sociétaux, des mutations - en cours et souhaitables - de leurs missions, de leurs compétences et de leurs méthodes, destinées à préserver ou à renforcer leur statut de tiers de confiance au service de l’entreprise. Elle mobilise une méthodologie qualitative à la fois exploratoire et originale, basée sur un sondage et sur des entretiens semi-directifs. Elle révèle la diversité des facteurs qui viennent modifier les conditions d’exercice des métiers du chiffre. Ces facteurs sont de nature institutionnelle (le foisonnement réglementaire et normatif, le relèvement des seuils d’audit obligatoire), technologique (l’émergence de l’IA et de la blockchain ) et organisationnelle (la multiplication des contrôles, audits et vérifications internes et externes à l’entreprise).

À l’heure de l’intelligence artificielle (IA) dite générative, des algorithmes d’apprentissage profond ( Deep Learning ), de l’IA explicable, de l’IA de confiance, bon nombre de personnes ne mesurent pas la nécessité de modéliser et de structurer le domaine lorsqu’il s’agit de réaliser une opération de management de la connaissance. La question est à deux niveaux : est-ce que cela a un sens et pourquoi ?

Depuis plus d’une décennie, l’intelligence artificielle (IA) vit une accélération dans son développement et son adoption. En médecine, elle intervient dans la recherche fondamentale et clinique, la pratique hospitalière, les examens médicaux, les soins ou encore la logistique. Ce qui contribue à l’affinement des diagnostics et des pronostics, à une médecine encore plus personnalisée et ciblée, à des avancées dans les technologies d’observations et d’analyses ou encore dans les outils d’interventions chirurgicales et autres robots d’assistance. De nombreux enjeux propres à l’IA et à la médecine, tels que la dématérialisation des données, le respect de la vie privée, l’explicabilité des algorithmes, la conception de systèmes d’IA inclusifs ou leur reproductibilité, sont à surmonter pour construire une confiance du corps hospitalier dans ces outils. Cela passe par une maîtrise des concepts fondamentaux que nous présentons ici

Objetivo: Este estudo objetivou avaliar a autopercepção de confiança de alunos concluintes do curso de Odontologia da Universidade Estadual da Paraíba, ao realizar diferentes procedimentos clínicos e verificar suas perspectivas profissionais futuras. Métodos: O instrumento utilizado foi um questionário semiestruturado dividido em três blocos: perfil do estudante (informações demográficas como idade, sexo, estado civil, etc), grau de confiança (procedimentos/situações clínicas) e perspectivas futuras (informações sobre preferências e possíveis preocupações enquanto profissionais). Para estudo dos resultados criou-se um índice de autoconfiança (IA), que representa a média dos valores de confiança nos procedimentos questionados no inquérito. Resultados: Verificou-se que para os procedimentos de instrução de higiene oral, restaurações de compósitos em classe I ou II, restaurações e extrações na odontopediatria e seleção de materiais dentários, os estudantes mostraram-se mais confiantes, porém apresentaram pouca confiança em procedimentos como diagnóstico e plano de tratamento de DTM (desordens temporomandibulares), cirurgia periodontal, diagnóstico de lesão/patologia oral, atendimento de pacientes com comprometimento sistêmico e extrações cirúrgicas de dentes multirradiculares. Todos os participantes do estudo apresentaram IA igual ou maior que 3 e foram considerados “confiantes” ou “muito confiantes”. Os mesmos demonstraram preferência em atuar no serviço público após a graduação e, como principais preocupações, a baixa remuneração e a falta de conhecimento na gestão odontológica. Conclusão: Concluiu-se, portanto, que os alunos apresentaram um alto índice de autoconfiança porém, demonstraram estar mais confiantes em realizar procedimentos clínicos básicos e para procedimentos mais complexos mostraram-se pouco confiantes.

Instituciones políticas como la Comisión Europea y el Gobierno de España han manifestadosu interés y predisposición para sentar las bases de una gobernanza ética de la Inteligencia Artificial (IA). En particular, han planteado el impulso de una Inteligencia Artificial confiable a través de unconjunto de directrices y estrategias. A pesar del beneficio que reportan estas iniciativas políticas, no es posible apreciar en su conjunto una estrategia educativa específica que contribuya a la generación de un ecosistema ético de IA fundamentado en la confianza. En ese sentido, el objetivo principal de este trabajo consiste en explicar que la enseñanza de la ética aplicada en los estudios de ingeniería constituye una apuesta para el fortalecimiento profesional, la gobernanza ética yuna investigación e innovación responsables. Para alcanzar este objetivo, en primer lugar, serándetallados algunos de los aspectos esenciales que dotan de un valor significativo a la enseñanza de la ética aplicada, subrayando la responsabilidad social que presentan las universidades en este terreno. En segundo lugar, se mostrará una clasificación de las asignaturas de ética relacionadas con la ingeniería en el entorno de las universidades públicas españolas. Y, en tercer lugar, se ofrecerá un marco teórico enraizado en la ética discursiva, promoviendo una mirada cívica en el contexto educativo de las profesiones.

La inteligencia artificial (IA) puede ayudar a encontrar soluciones a muchos de los problemas de nuestra sociedad. Esto solo puede lograrse si la tecnología es de gran calidad y se desarrolla y se utiliza de tal manera que merezca la confianza de los ciudadanos. Por lo tanto, un marco estratégico de la UE basado en los valores de la Unión ofrecerá a los ciudadanos la confianza necesaria para que acepten las soluciones basadas en la IA, animando al mismo tiempo a las empresas a desarrollarlas y utilizarlas. Un Reglamento sobre un enfoque europeo respecto a la inteligencia artificial y la actualización del plan coordinado sobre la IA garantizarán la seguridad y los derechos fundamentales de las personas y las empresas, reforzando al mismo tiempo la inversión y la innovación en todos los países de la UE. En este artículo se analiza si su adopción será beneficiosa para los consumidores.

En un contexto de ecosistemas digitales mundialmente cuestionados, este artículo examina el papel y la contribución de la UE al concepto emergente de la gobernanza de la inteligencia artificial (IA). Entendida esta por la UE como el ingrediente fundamental para la innovación, la adopción de sistemas de IA ha alterado nuestra comprensión de la gobernanza. Enmarcando la IA como una tecnología digital autónoma integrada en las estructuras sociales, este artículo argumenta que se puede aumentar la confianza de la ciudadanía de la UE hacia la IA si la innovación que esta comporta se fundamenta en un enfoque basado en los derechos fundamentales. Ello se evalúa a partir del trabajo del Grupo de Expertos de Alto Nivel en IA (que ha desarrollado el marco para una IA fiable) y la propuesta recién aprobada de la Comisión Europea para una Ley de inteligencia artificial (con un enfoque basado en el riesgo).

En un contexto de ecosistemas digitales mundialmente cuestionados, este artículo examina el papel y la contribución de la UE al concepto emergente de la gobernanza de la inteligencia artificial (IA). Entendida esta por la UE como el ingrediente fundamental para la innovación, la adopción de sistemas de IA ha alterado nuestra comprensión de la gobernanza. Enmarcando la IA como una tecnología digital autónoma integrada en las estructuras sociales, este artículo argumenta que se puede aumentar la confianza de la ciudadanía de la UE hacia la IA si la innovación que esta comporta se fundamenta en un enfoque basado en los derechos fundamentales. Ello se evalúa a partir del trabajo del Grupo de Expertos de Alto Nivel en IA (que ha desarrollado el marco para una IA fiable) y la propuesta recién aprobada de la Comisión Europea para una Ley de inteligencia artificial (con un enfoque basado en el riesgo).

El objetivo del estudio fue evaluar la presencia del virus de influenza aviar (IA) en patos domésticos de crianza familiar en las provincias de Huaral y Huaura (Lima, Perú). Se colectaron 600 muestras de hisopado cloacal de patos domésticos de traspatio, que fueron analizadas mediante aislamiento viral en huevos embrionados de pollo libres de patógenos específicos (SPF). La presencia del virus de IA fue determinada por la actividad hemaglutinante del fluido alantoideo y confirmada mediante un kit comercial que utiliza anticuerpos monoclonales. Todas las muestras analizadas fueron negativas al virus de IA. El riego de infección fue evaluado mediante la simulación de Monte Carlo (programa @risk) determinando que el virus de IA mostraría una prevalencia estocástica máxima de 0.33% con un intervalo de confianza de 95% en caso de presentarse la enfermedad. Se concluye que las aves incluidas en el presente estudio no se encontraban infectadas con el virus de IA.

L’aide à la décision multicritères (ADMC) est un domaine qui vise à aider des décideurs experts (DE) pour des problèmes tels que la sélection, le classement ou la classification d’alternatives définies par plusieurs attributs qui peuvent intéragir. Ces modèles ne sont pas ceux qui prennent pas la décision, mais ils apportent une assistance au DE lors du processus. Il est donc crucial que le modèle offre au DE des moyens d’interpréter ses résultats. Ceci est en particulier vrai dans des contextes critiques où les erreurs peuvent avoir des conséquences désastreuses. Il est par conséquent indispensable que les modèles d’ADMC soient intelligibles, interprétables et que leur comportement soit fortement contraint par des connaissances provenant d’une expertise dans le domaine. De tels modèles sont généralement construits par une interaction (questions/réponses) avec un DE, par le biais de méthodes issues de la recherche opérationnelle. D’autre part, l’apprentissage automatique (ML) fonde son approche sur l’apprentissage du modèle optimal à partir de données d’ajustement. Ce domaine se concentre généralement sur les performances du modèle, en adaptant les paramètres de modèles complexes (dits boîtes noires) pour obtenir une erreur statistiquement faible sur de nouveaux exemples. Bien que cette approche soit adaptée à de nombreux contextes, l’utilisation de modèles boîtes noires est inconcevable dans les cas usuels d’ADMC, car ils ne sont ni interprétable, ni facilement contraignables. Cette thèse fait le pont entre ces deux domaines. Nous nous concentrons sur une certaine classe de modèles d’ADMC, appelés intégrales de Choquet hiérarchiques utilitaires (ICHU). Notre première contribution, qui est théorique, est de montrer l’identifiabilité (ou l’unicité de la paramétrisation) des ICHUs. Ce résultat motive notre seconde contribution : le framework NeurHCI, une architecture de modules de réseaux de neurones qui peuvent apprendre les paramètres d’un ICHU. En particulier, tous les modèles NeurHCI sont garantis comme étant formellement valides, répondant aux contraintes qui conviennent à de tels modèles (monotonie, normalisation), et restent interprétables. Nous montrons empiriquement que les modèles Neur-HCI sont performants sur des ensembles de données artificielles et réelles, et qu’ils présentent une stabilité remarquable, ce qui en fait des outils pertinents pour alléger l’effort d’élicitation de modèles lorsque les données sont facilement disponibles, et permet leur utilisation comme outils d’analyse appropriés pour identifier certains phénomènes sous-jacents dans les données
Multicriteria Decision Aiding (MCDA) is a field that aims at assisting expert decision mak ers (DM) in problems such as selecting, ranking, or classifying alternatives defined on several inter acting attributes. Such models do not make the decision, but assist the DM, who takes the final decision. It is thus crucial for the model to offer ways for the DM to maintain operational awareness, in particular in safety-critical contexts where errors can have dire consequences. It is thus a prerequisite of MCDA models to be intelligible, in terpretable, and to have a behaviour that is highly constrained by information stemming from in do main knowledge. Such models are usually built hand in hand with a field expert, obtaining infor mation through a Q&A procedure, and eliciting the model through methods rooted in operations research. On the other hand, Machine Learning (ML), and more precisely Preference Learning (PL), bases its approach on learning the optimal model from fitting data. This field usually focuses on model performances, tuning complex black-boxes to ob tain a statistically low error on new examples cases. While this is adapted to many settings, it is out of the question for decision aiding settings, as neither constrainedness nor intelligibility are available. This thesis bridges both fields. We focus on a certain class of MCDA models, called utilitaris tic hierarchical Choquet integrals (UHCI). Our first contribution, which is theoretical, is to show the identifiability (or unicity of the parameterization) of UHCIs This result motivates our second con tribution: the Neur-HCI framework, an archi tecture of neural network modules which can learn the parameters of a UHCI. In particular, all Neur HCI models are guaranteed to be formally valid, fitting the constraints that befit such a model, and remain interpretable. We show empirically that Neur-HCI models perform well on both artificial and real dataset, and that they exhibit remarkable stability, making it a relevant tool for alleviating the model elicitation effort when data is readily available, along with making it a suitable analysis tool for indentifying patterns in the data

En 2024, presque 3 milliards d’électeurs seront appelés à voter à travers le monde, dans le cadre d’élections démocratiques. L’intégrité de ces élections repose, notamment, sur la possibilité de confiance dans le journalisme ainsi que sur l’accès à des informations électorales fiables et à une diversité d’opinions. Des agents malintentionnés font ainsi un usage abusif de l’intelligence artificielle (IA), et notamment des grands modèles de langage et de l’IA générative, pour déformer des faits, générer des « deepfakes », créer de la confusion et cibler des segments de populations avec des messages hypersegmentés. Pour combattre ces abus et assurer l’intégrité de l’espace informationnel, les plateformes et les États devront mettre en place des garanties politiques et réglementaires. Les organes de gestion électorale (OGE) indépendants pourraient contribuer à garantir l’accès à une information électorale fiable. Les dix recommandations à destination des plateformes et des États reprennent dans les grandes lignes les principales mesures à prendre pour protéger le caractère démocratique des élections.

Falhas apontadas em sistemas de Aprendizado de Máquina (AM) têm afetado a confiança dos usuários, tornando-se essencial abordar o tema. Este estudo investiga o uso da técnica Brainwriting na elicitação de requisitos para Inteligência Artificial (IA) confiável, com foco em AM, por meio da colaboração multidisciplinar dos papéis envolvidos. O estudo foi conduzido com um grupo de mulheres com perfis de atuação diferentes, facilitado por um mediador. Ao final do estudo, um conjunto de perguntas abertas foi aplicado para compreender a perspectiva das participantes em relação à IA confiável. Com o estudo foi possível criar requisitos para a IA confiável, com ênfase em AM, além de proporcionar a participação multidisciplinar, utilizando Brainwriting.

Cada vez mais rápido a incorporação tecnológica em nossa sociedade vem nos conduzindo as mais novas práticas pedagógicas nas mais diversas áreas da atuação humana. Dada essa incorporação não seria diferente com a educação, que com o avanço destas tecnologias foi fortemente influenciada. O presente artigo aborda o papel em evolução da Inteligência Artificial (IA) na Educação a Distância (EaD), com foco nos aspectos legislativos que moldam seu futuro. A IA tem demonstrado potencial para personalizar o aprendizado e melhorar a eficiência em ambientes de EaD. No entanto, seu uso levanta questões legais e éticas relacionadas à privacidade dos alunos, propriedade intelectual e transparência algorítmica. O respeito às regulamentações de proteção de dados é crucial para garantir que os direitos dos alunos sejam preservados, as quais examinam e respondem a essas preocupações legislativas que buscam o equilíbrio entre inovação da IA junto a segurança jurídica. Além disso, são exploradas medidas para promover a responsabilidade das instituições de EaD e dos desenvolvedores de IA. À medida que a IA desempenha um papel cada vez mais vital na EaD, a clareza legal se torna fundamental para sustentar a confiança pública e para incentivar o avanço contínuo nesse domínio em rápido crescimento.

Con la reciente masificación del uso de la Inteligencia Artificial (IA), especialmente ChatGPT, muchas instituciones educativas en representación de sus directivos y profesores han mostrado cierta preocupación en el uso de estas por parte de los estudiantes. Es así como el presente estudio se enfoca en la implementación de ChatGPT, una herramienta de IA, en la enseñanza de la programación en los primeros semestres de Ingeniería de Sistemas y así poder usar la IA en beneficio de la Educación. La IA es una de las tecnologías más prometedoras para mejorar la enseñanza y el aprendizaje de la programación, se podría explorar la capacidad de los modelos de lenguaje natural para generar código o proporcionar sugerencias de programación o retroalimentación personalizada en tiempo real a los estudiantes y también ayudar a los profesores. Sin embargo, también es importante considerar los aspectos éticos de la implementación de la IA en la educación. Para este estudio, se llevó a cabo una revisión bibliográfica de estudios relacionados con la implementación de la IA en la educación y el uso de ChatGPT y luego de la implementación se midió el desempeño académico y motivación de los estudiantes por medio de sus notas y una encuesta para obtener información sobre su experiencia de aprendizaje con ChatGPT. Los resultados del estudio muestran que la implementación de ChatGPT en la enseñanza de la programación puede mejorar significativamente el aprendizaje de los estudiantes. Los estudiantes informaron una mayor comprensión de los conceptos de programación y una mayor confianza en su capacidad para programar lo que se tradujo en una mejor motivación hacia la programación. En conclusión, la implementación de la IA en la enseñanza de la programación es un campo en constante evolución que puede ser de gran ayuda para mejorar el aprendizaje de los estudiantes y donde los profesores deberán hacer un enfoque adecuado en la ética para reforzar la honestidad académica y evitar el plagio. Al ser un tema emergente se necesitan más estudios para comprender el potencial de la IA en la enseñanza de la programación.