Academic literature on the topic 'Explicabilidad'

Create a spot-on reference in APA, MLA, Chicago, Harvard, and other styles

Select a source type:

Consult the lists of relevant articles, books, theses, conference reports, and other scholarly sources on the topic 'Explicabilidad.'

Next to every source in the list of references, there is an 'Add to bibliography' button. Press on it, and we will generate automatically the bibliographic reference to the chosen work in the citation style you need: APA, MLA, Harvard, Chicago, Vancouver, etc.

You can also download the full text of the academic publication as pdf and read online its abstract whenever available in the metadata.

Journal articles on the topic "Explicabilidad"

1

Ortiz de Zárate Alcarazo, Lucía. "Explicabilidad (de la inteligencia artificial)." EUNOMÍA. Revista en Cultura de la Legalidad, no. 22 (March 23, 2022): 328–44. http://dx.doi.org/10.20318/eunomia.2022.6819.

Full text
Abstract:
de digitalización en la Unión Europea (UE). A pesar de sus grandes beneficios este grupo de tecnologías emergentes también presenta importantes riesgos y desafíos éticos que deben abordarse. Por ello, la UE ha propuesto cuatro principios éticos fundamentales para la IA: la justicia, el respeto por la autonomía humana, la previsión del daño y la explicabilidad. El concepto central de este trabajo es la explicabilidad de la IA (XAI). De este modo, además de poner en contexto la importancia de este principio ético, se abordarán los aspectos centrales en torno al mismo: qué es la explicabilidad; por qué son importantes las explicaciones (en el ámbito de la IA); cuándo es necesario dar explicaciones y de qué tipo de explicaciones disponemos para hacer comprender a la ciudadanía las decisiones tomadas por sistema de IA.
APA, Harvard, Vancouver, ISO, and other styles
2

García Marzá, Domingo. "Ética digital discursiva: de la explicabilidad a la participación." Daimon, no. 90 (September 1, 2023): 99–114. http://dx.doi.org/10.6018/daimon.562821.

Full text
Abstract:
This article is intended to present a proposal for dialogic digital ethics on a critical reading of the European Commission's independent high-level expert group’s document Ethics Guidelines for Trustworthy AI (2019). These would be digital ethics with a normative horizon for action and criteria for justice based on dialogue and possible agreement between all agents involved and affected by the digital reality. The aim is to show that the participation of all parties involved is not merely advisable but morally required as part of the Commission’s effort to generate common European willingness and governance to deal with the fourth industrial revolution now going on. The acknowledgement of equal dignity implied by people-centric artificial intelligence (AI) is utterly unthinkable without this possibility of equal participation. Without it, trust cannot be generated or guaranteed. As we intend to show, the new principle of explicability plays a decisive role in this objective as a principle with a moral as well as an instrumental. El presente artículo tiene como objetivo presentar los rasgos básicos de una ética digital dialógica a partir de una lectura crítica del documento elaborado por grupo independiente de expertos de alto nivel para la Comisión Europea Ethics Guidelines for Trustworthy AI (High-level expert Group on Artificial Intelligence, 2019). Una ética digital que tiene en el diálogo y acuerdo posible de todos los agentes implicados y afectados por la realidad digital su horizonte normativo de actuación, su criterio de justicia. La finalidad es mostrar que, en su esfuerzo por generar una voluntad común y una gobernanza europeas ante la actual revolución industrial, la participación de todas las partes implicadas no solo es recomendable sino moralmente exigible. El reconocimiento de la igual dignidad que implica una Inteligencia Artificial centrada en las personas no es ni siquiera pensable sin el horizonte de una participación igual. Sin ella, la confianza no puede generarse ni garantizarse. Como pretendemos mostrar, en este objetivo juega un papel decisivo el nuevo principio de explicabilidad, principio que posee un valor moral y no solo instrumental.
APA, Harvard, Vancouver, ISO, and other styles
3

Blázquez Ruiz, F. Javier. "paradoja de la transparencia en la IA." Revista Internacional de Pensamiento Político 17 (December 27, 2022): 261–72. http://dx.doi.org/10.46661/revintpensampolit.7526.

Full text
Abstract:
Con la irrupción de las nuevas tecnologías, la Inteligencia Artificial (IA) está convirtiéndose en una especie de nueva religión monoteísta, y los algoritmos, como si fueran oráculos, se tornan cada vez más omniscientes. No importa su grado de opacidad o la falta de trazabilidad que ostenten. Cada día que pasa el culto a los algoritmos deviene cada vez más reverencial. Parecen sagrados. Entre tanto, las cajas negras impiden que se cumplan los principios de transparencia y explicabilidad. A su vez la atribución de responsabilidad tiende a diluirse.
APA, Harvard, Vancouver, ISO, and other styles
4

Castellanos Claramunt, Jorge. "Sobre los desafíos constitucionales ante el avance de la Inteligencia Artificial. Una perspectiva nacional y comparada." Revista de Derecho Político, no. 118 (December 3, 2023): 261–87. http://dx.doi.org/10.5944/rdp.118.2023.39105.

Full text
Abstract:
El presente artículo tiene como objetivo analizar la regulación actual sobre inteligencia artificial y los desafíos que plantea desde una perspectiva jurídica. Y es que la inteligencia artificial abarca la práctica totalidad de las actuaciones diarias de los ciudadanos. Teniendo en cuenta que el derecho es el garante de la correcta ordenación de las relaciones entre las personas y que, en un sistema democrático, son imprescindibles las garantías en el respeto de los derechos fundamentales de los ciudadanos, la relación que existe entre los tres elementos citados es incuestionable.En primer lugar, se examina la regulación sobre la IA en Europa, destacando las normas y políticas que han sido adoptadas en la Unión Europea y en algunos países miembros. En segundo lugar, se realiza una exposición comparativa de la regulación y planteamiento europeo respecto al resto de países protagonistas en cuanto a IA, como Estados Unidos y China, principalmente.En tercer lugar, se analizan los desafíos constitucionales que plantea la IA, incluyendo cuestiones de protección de la privacidad, el derecho a la igualdad y no discriminación, y la responsabilidad legal en caso de daños causados por sistemas de IA. En cuarto lugar, se aborda la importancia de la transparencia y explicabilidad algorítmicas en el uso de sistemas de IA, ya que la falta de claridad en el funcionamiento de estos sistemas puede llevar a decisiones discriminatorias o perjudiciales.Finalmente, en las conclusiones se destaca la necesidad de una regulación específica y coherente para la IA, que aborde los desafíos jurídicos y éticos que plantea esta tecnología. Se enfatiza la importancia de la transparencia y la explicabilidad algorítmica para garantizar la protección de los derechos fundamentales, y se invita a los legisladores a trabajar en conjunto con expertos en IA y otras disciplinas para lograr una regulación efectiva.
APA, Harvard, Vancouver, ISO, and other styles
5

Rivas Vallejo, Pilar. "Sesgos de género en el uso de inteligencia artificial para la gestión de las relaciones laborales: análisis desde el derecho antidiscriminatorio." E-REVISTA INTERNACIONAL DE LA PROTECCION SOCIAL 7, no. 1 (2022): 52–83. http://dx.doi.org/10.12795/e-rips.2022.i01.04.

Full text
Abstract:
El análisis jurídico de la discriminación derivada de decisiones automatizadas que puedan provocar un impacto discriminatorio requiere combinar dos campos jurídicos: el de la protección de datos y el derecho antidiscriminatorio. En el primero los derechos reconocidos son accesorios al núcleo principal de afectación: el derecho de intervención humana y, principalmente, la explicabilidad de los algoritmos, manifestación de la debida justificación objetiva y razonable que acompaña a las decisiones prima facie discriminatorias para eludir su calificación como tales. Pero el tratamiento jurídico de la discriminación algorítmica requiere, también, dar respuesta a problemas de calificación de los sesgos en los que incurre el aprendizaje automático como resultado de las infinitas inferencias de datos que perfilan a personas en el contexto del derecho antidiscriminatorio, donde potencian su impacto discriminatorio, como son la discriminación por asociación o la discriminación múltiple o interseccional.
APA, Harvard, Vancouver, ISO, and other styles
6

Fernández-Aller, Celia, and María Mercedes Serrano Pérez. "¿Es posible una Inteligencia artificial respetuosa con la protección de datos?" Doxa. Cuadernos de Filosofía del Derecho, no. 45 (June 7, 2022): 307. http://dx.doi.org/10.14198/doxa2022.45.11.

Full text
Abstract:
La Inteligencia artificial es un reto clave en la cuarta revolución industrial que vivimos. El artículo pretende analizar la compatibilidad de ésta con el derecho a la protección de datos. Para ello se analizan los principios que subyacen a la regulación y se estudia el encaje de las características de la tecnología en los mismos. Se destacan los principales derechos de los sujetos, así como las obligaciones de los responsables de los tratamientos. Especial atención se presta a la discriminación algorítmica en el caso de los perfiles y el marketing político, que supone un reto a evitar por su vulneración del principio de igualdad y justicia en el tratamiento de la información personal. Resulta esencial salvaguardar el derecho a la explicabilidad algorítmica. Se concluye con un análisis de la necesaria regulación que está en fase de discusión en Europa.
APA, Harvard, Vancouver, ISO, and other styles
7

Azuaje Pirela, Michelle. "Propiedad intelectual como herramienta para promover la transparencia y prevenir la discriminación algorítmica." Revista Chilena de Derecho y Tecnología 12 (September 4, 2023): 1–34. http://dx.doi.org/10.5354/0719-2584.2023.70131.

Full text
Abstract:
En este artículo se analizan algunos de los principales desafíos legislativos y de políticas públicas para el sistema de propiedad intelectual frente a la Cuarta Revolución Industrial. Asimismo, se proponen alternativas que pueden integrarse a la legislación y políticas de propiedad intelectual para que esta sirva como herramienta para el impulso de innovaciones sostenibles y responsables coherentes con el escenario tecnológico actual, que, a su vez, contribuyan con la promoción de la transparencia y la prevención de la discriminación algorítmica. En ese sentido, en primer lugar, se ofrecen alternativas para flexibilizar o garantizar el acceso a más y mejores datos para obtener mejores desarrollos; y, en segundo lugar, medidas que pueden promover o garantizar la transparencia algorítmica, la explicabilidad y la auditabilidad de los sistemas dando acceso a ciertas autoridades para prevenir, explicar o mitigar los sesgos discriminatorios.
APA, Harvard, Vancouver, ISO, and other styles
8

Sáez Lara, Carmen. "Gestión algorítmica empresarial y tutela colectiva de los derechos laborales." Cuadernos de Relaciones Laborales 40, no. 2 (July 22, 2022): 283–300. http://dx.doi.org/10.5209/crla.79417.

Full text
Abstract:
Aunque los efectos de la IA sobre el trabajo son aún inciertos, en la gestión empresarial algorítmica (desde la contratación al despido) se han descrito ya efectos sobre la intimidad, protección de datos, igualdad y salud laboral. Resolver el binomio IA y prohibición de discriminación obligará a la adaptación de la normativa antidiscriminatoria, introduciendo regulaciones que impongan la transparencia, explicabilidad y responsabilidad algorítmica. El análisis de los diversos documentos y normas, tanto en la Unión Europea como en nuestro país, relativos a la tutela de los derechos de las personas trabajadoras en el contexto de la gestión empresarial algorítmica, será el objeto de este trabajo. Y se comprobará su principal laguna, el enfoque exclusivamente individual, la ausencia de instrumentos de tutela sindical de los derechos laborales. Por ello, se analizarán las competencias de los representantes sindicales sobre el control de la IA y se formularán propuesta de reforma normativa.
APA, Harvard, Vancouver, ISO, and other styles
9

Sanahuja Sanahuja, Rosana, and Pablo López Rabadán. "Ética y uso periodístico de la inteligencia artificial. Los medios públicos y las plataformas de verificación como precursores de la rendición de cuentas en España." Estudios sobre el Mensaje Periodístico 28, no. 4 (December 21, 2022): 959–70. http://dx.doi.org/10.5209/esmp.82385.

Full text
Abstract:
La aplicación de la inteligencia artificial (IA) en el periodismo es una tendencia en desarrollo que afecta significativamente al modelo de producción y difusión periodístico. Como consecuencia, el uso de esta tecnología plantea diferentes retos éticos. En este contexto, la transparencia se sitúa como un principio clave para avanzar hacia un uso responsable de la IA por parte de los medios. El presente estudio analiza las webs corporativas y los blogs editoriales, principales espacios de rendición de cuentas, de nueve medios españoles vinculados a tres modelos profesionales diferentes: medios digitales, plataformas de verificación y entes públicos de radiotelevisión. Los resultados evidencian que ciertos medios públicos como RTVE están siendo precursores en la explicabilidad de su relación con la IA. Y por otra parte, el compromiso de las plataformas de verificación con la descripción de su metodología profesional favorece la transparencia sobre el uso que hacen de datos, algoritmos y automatizaciones.
APA, Harvard, Vancouver, ISO, and other styles
10

Monfort Mir, Vicente M. "Recursos y capacidades de la hotelería del litoral." Revista de Estudios Turísticos, no. 143 (September 11, 2023): 25–63. http://dx.doi.org/10.61520/et.1432000.829.

Full text
Abstract:
El objetivo de este artículo es indagar en las diferencias internas detectadas en el área de la empresa hotelera individual, por ser en aquéllas en las que se enraiza la máxima fuerza explicativa de la competitividad de los espacios turísticos, encarnada en la actuación singular y distintiva de los negocios allí instalados. Ello se afronta desde la perspectiva expresada por la "hotelería de litoral", como ámbito de empresa seleccionado en dos destinos clásicos mediterráneos: Benidorm y Peñíscola. En ambos, la planta hotelera ha jugado un papel principal en la evolución de sus respectivos modelos turísticos, descansando buena parte de la explicabilidad competitiva que se observa en la actualidad, en la gestión diferenciada de los establecimientos hoteleros. La investigación correspondiente es la formulación analítica de los Recursos y Capacidades, a partir de la cual se ha tratado de medir diferentes aspectos de la ventaja competitiva, como exponente y garante del éxito empresarial.
APA, Harvard, Vancouver, ISO, and other styles

Dissertations / Theses on the topic "Explicabilidad"

1

Cárdenas, Chapellín Julio José. "Inversion of geophysical data by deep learning." Electronic Thesis or Diss., Sorbonne université, 2022. http://www.theses.fr/2022SORUS185.

Full text
Abstract:
Cette thèse présente la caractérisation d’anomalies magnétiques par des réseaux de neurones convolutifs, et l’application d’outils de visualisation pour comprendre et valider leurs prédictions. L’approche développée permet la localisation de dipôles magnétiques, incluant le comptage dunombre de dipôles, leur position géographique, et la prédiction de leurs paramètres (moment magnétique, profondeur, et déclinaison). Nos résultats suggèrent que la combinaison de deux modèles d’apprentissage profond, "YOLO" et "DenseNet", est la plus performante pour atteindre nos objectifs de classification et de régression. De plus, nous avons appliqué des outils de visualisation pour comprendre les prédictions de notre modèle et son principe de fonctionnement. Nous avons constaté que l’outil Grad-CAM a amélioré les performances de prédiction en identifiant plusieurs couches qui n’avaient aucune influence sur la prédiction et l’outil t-SNE a confirmé la bonne capacité de notre modèle à différencier différentes combinaisons de paramètres. Ensuite, nous avons testé notre modèle avec des données réelles pour établir ses limites et son domaine d’application. Les résultats montrent que notre modèle détecte les anomalies dipolaires dans une carte magnétique réelle, même après avoir appris d’une base de données synthétique de moindre complexité, ce qui indique une capacité de généralisation significative. Nous avons également remarqué qu’il n’est pas capable d’identifier des anomalies dipolaires de formes et de tailles différentes de celles considérées pour la création de la base de données synthétique. Nos travaux actuels consistent à créer de nouvelles bases de données en combinant des données synthétiques et réelles afin de comparer leur influence potentielle dans l’amélioration des prédictions. Enfin, les perspectives de ce travail consistent à valider la pertinence opérationnelle et l’adaptabilité de notre modèle dans des conditions réalistes et à tester d’autres applications avec des méthodes géophysiques alternatives
This thesis presents the characterization ofmagnetic anomalies using convolutional neural networks, and the application of visualization tools to understand and validate their predictions. The developed approach allows the localization of magnetic dipoles, including counting the number of dipoles, their geographical position, and the prediction of their parameters (magnetic moment, depth, and declination). Our results suggest that the combination of two deep learning models, "YOLO" and "DenseNet", performs best in achieving our classification and regression goals. Additionally, we applied visualization tools to understand our model’s predictions and its working principle. We found that the Grad-CAM tool improved prediction performance by identifying several layers that had no influence on the prediction and the t-SNE tool confirmed the good ability of our model to differentiate among different parameter combinations. Then, we tested our model with real data to establish its limitations and application domain. Results demonstrate that our model detects dipolar anomalies in a real magnetic map even after learning from a synthetic database with a lower complexity, which indicates a significant generalization capability. We also noticed that it is not able to identify dipole anomalies of shapes and sizes different from those considered for the creation of the synthetic database. Our current work consists in creating new databases by combining synthetic and real data to compare their potential influence in improving predictions. Finally, the perspectives of this work consist in validating the operational relevance and adaptability of our model under realistic conditions and in testing other applications with alternative geophysical methods
Esta tesis presenta la caracterización de anomalías magnéticas mediante redes neuronales convolucionales, y la aplicación de herramientas de visualización para entender y validar sus predicciones. El enfoque desarrollado permite la localización de dipolos magnéticos, incluyendo el recuento delnúmero de dipolos, su posición geográfica y la predicción de sus parámetros (momento magnético, profundidad y declinación). Nuestros resultados sugieren que la combinación de dos modelos de aprendizaje profundo, "YOLO" y "DenseNet", es la que mejor se ajusta a nuestros objetivos de clasificación y regresión. Adicionalmente, aplicamos herramientas de visualización para entender las predicciones de nuestromodelo y su principio de funcionamiento. Descubrimos que la herramienta Grad-CAM mejoraba el rendimiento de la predicción al identificar varias capas que no influían enla predicción y la herramienta t-SNE confirmaba la buena capacidad de nuestro modelo para diferenciar entre distintas combinaciones de parámetros. Seguidamente, probamos nuestro modelo con datos reales para establecer sus limitaciones y su rango de aplicación. Los resultados demuestran quenuestro modelo detecta anomalías dipolares en unmapa magnético real incluso después de aprender de una base de datos sintética con una complejidad menor, lo que indica una capacidad de generalización significativa. También observamos que no es capaz de identificar anomalías dipolares de formas y tamaños diferentes a los considerados para la creación de la base de datos sintética. Nuestro trabajo actual consiste en crear nuevas bases de datos combinando datos sintéticos y reales para comparar su posible influencia en la mejora de las predicciones. Por último, las perspectivas de este trabajo consisten en validar la pertinencia operativa y la adaptabilidad de nuestro modelo en condiciones realistas y en probar otras aplicaciones con métodos geofísicos alternativos
APA, Harvard, Vancouver, ISO, and other styles
2

Sousa, Maria João Coelho de. "On the explainability of multiple sclerosis disease progression models." Master's thesis, 2021. http://hdl.handle.net/10316/98143.

Full text
Abstract:
Dissertação de Mestrado Integrado em Engenharia Biomédica apresentada à Faculdade de Ciências e Tecnologia
Esclerose múltipla ́e a doença neurológica predominante em jovens adultos globalmente. A complexidade e heterogeneidade da sua progressão, e o consequente desafio de um prognóstico adequado, levaram à criação de modelos de Machine learning (ML), capazes de fornecer um prognóstico auxiliado por computador. No entanto, os modelos desenvolvidos podem não oferecer garantias de confiança ou segurança que promovam a sua aplicação em contexto clínico. Explicabilidade é um conceito recente que visa criar explicações compreensíveis sobre os modelos de ML, para ajudar a mitigar a desconfiança associada à falta de informação sobre a lógica dos mesmos. O objetivo deste projeto ́e compreender se os modelos desenvolvidos por Pinto et al.[81], que preveem a progressão da doença, podem ser aplicados em ambiente clínico, e que tipo de explicações adicionais podem ajudar a atingir esse objetivo. Nesta dissertação de mestrado, vários métodos de explicabilidade foram desenvolvidos para gerar explicações humanamente compreensíveis sobre os modelos de previsão. As explicações continham informações gerais sobre os modelos, e o estudo de previsões de doentes específicos. Os resultados foram avaliados qualitativamente, com base na teoria fundamentada, através de entrevistas com cientistas de dados. As explicações mostraram que, geralmente, a escala de quantificação da condição neurológica (EDSS) e os Scores de alguns sistemas funcionais, nomeadamente os sistemas piramidal, cerebelar e mental, tiveram maior relevância nas previsões. A análise dos cientistas de dados sugeriu que os métodos de explicabilidade mais adequados para apoiar os modelos de previsão eram o poder preditivo de Pinto et al.[81], permutation feature importance, os partial dependence plots (PDPs), e os valores de Shapley.
Multiple Sclerosis (MS) is the neurological disease most prevalent in young adultsworldwide. The complexity and heterogeneity of its progression and consequentchallenge of an adequate prognosis have led to the creation of ML models capableof providing a computer-aided prediction. However, the developed models may notoffer trust or safety guarantees that promote their application in a clinical context.Explainability is a recent field of study that aims to create human-comprehensibleexplanations about ML models to help mitigate the doubts associated with the lackof information about the models’ logic.The goal of this project is to understand if the models developed by Pinto et al.[81], that predict the progression of the disease, are able to be applied in a clinicalenvironment, and what type of additional explanations can help to achieve thatobjective.In this master thesis, several explainability methods were developed to producehuman-comprehensible explanations about the prediction models. The explanationscontained general information about the framework and analysis of specific patientpredictions. Then, these results were qualitatively evaluated through interviewswith data scientists that were analysed based on the Grounded Theory (GT).The explanations showed that, in general, the Expanded disability status scale(EDSS) and the scores of some Functional Systems (FS), namely the pyramidal,cerebellar, and mental systems, had the most predictive relevance. The analysis bythe data scientists suggested that the explainability methods most suited to supportthe prediction models were the predictive power by Pinto et al. [81], the permutationfeature importance, the PDP, and the Shapley Values.
APA, Harvard, Vancouver, ISO, and other styles

Book chapters on the topic "Explicabilidad"

1

VILELA, N. A. L., and T. M. FERREIRA. "O DIREITO À EXPLICABILIDADE FRENTE À INTELIGÊNCIA ARTIFICIAL." In Desafios legais - uma abordagem multidisciplinar - Volume 2. Dialética, 2024. http://dx.doi.org/10.48021/978-65-270-1483-6-c16.

Full text
APA, Harvard, Vancouver, ISO, and other styles
2

Fidalgo, Luiza Barreto Braga. "Interfaces entre o acesso à justiça e discriminações algorítmicas: desigualdades sociais, racismo e sexismo nas relações laborais." In O uso de dados pessoais e inteligência artificial na relação de trabalho, 323–52. Ministério Público do Trabalho, 2022. http://dx.doi.org/10.51366/978-65-89468-23-3-cap13.

Full text
Abstract:
O presente artigo possui como escopo a análise de utilização de mecanismos de inteligência artificial nas relações trabalhistas, perpassando pelo exame da necessidade de transparência algorítmica a fim de que não haja a perpetuação de discriminações raciais, de gênero, fomentando desigualdades sociais, em prejuízo de trabalhadores. As propostas de conformação de vieses algorítmicos e de ações compensatórias em face de práticas discriminatórias estão intrinsecamente ligadas à salvaguarda de princípios afetos à acurácia, à explicabilidade e à inteligibilidade de mecanismos de IA, como uma forma de evitar a exclusão apriorística de grupos marginalizados nas fases de contratação, manutenção e ascensão profissional.
APA, Harvard, Vancouver, ISO, and other styles
3

Pádua, Sérgio. "INTELIGÊNCIA ARTIFICIAL JUDICIAL E EXPLICABILIDADE: AS RAZÕES PÚBLICAS E A JUSTIÇA “EX MACHINA”." In Anais da VIII Jornada da Rede Interamericana de Direitos Fundamentais e Democracia (2021). Volume I, 629–49. Editora Fundação Fênix, 2021. http://dx.doi.org/10.36592/9786581110468-32.

Full text
APA, Harvard, Vancouver, ISO, and other styles
4

CUNHA, M. M. F. "A RELEVÂNCIA DO DIREITO À EXPLICABILIDADE DAS DECISÕES JUDICIAIS AUXILIADAS POR INTELIGÊNCIA ARTIFICIAL." In Questões atuais em Direito Processual: perspectivas teóricas e contribuições práticas: Volume 3. Dialética, 2023. http://dx.doi.org/10.48021/978-65-252-6950-4-c3.

Full text
APA, Harvard, Vancouver, ISO, and other styles
5

Marques, Júlio, Clésio Gonçalves, Pablo Vieira, Armando Borges, Viviane Dias, Willians Santos, and Romuere Silva. "Explorando a Explicabilidade da Inteligência Artificial - Técnicas para Compreender e Interpretar Modelos de Aprendizado de Máquina." In Minicursos do XVI Encontro Unificado de Computação do Piauí (ENUCOMPI) e Semana Nacional de Ciência e Tecnologia (SNCT), 25–43. SBC, 2023. http://dx.doi.org/10.5753/sbc.13259.2.2.

Full text
APA, Harvard, Vancouver, ISO, and other styles

Conference papers on the topic "Explicabilidad"

1

Moreira, Gabriel Menezes, and Raimundo Santos Moura. "Explicabilidade de modelos para Avaliação Automática de Redações." In Encontro Unificado de Computação do Piauí. Sociedade Brasileira de Computação, 2023. http://dx.doi.org/10.5753/enucompi.2023.26624.

Full text
Abstract:
No contexto da Avaliação Automatizada de Redações (AAR), um dos principais pontos de aprendizado do aluno é receber o feedback de sua correção para entender onde e o que errou. Nesse sentido, este trabalho tem o objetivo de pesquisar métodos de interpretabilidade para modelos de AM, com foco na atividade de AAR no estilo do Exame Nacional do Ensino Médio (ENEM). Os resultados alcançados revelam que o LIME (Local Interpretable Model-Agnostic Explanations) evidencia termos cruciais e tendências que o modelo associa na tarefa de AAR. Essas particularidades desempenharam um papel fundamental na identificação dos pontos fortes e fracos dos modelos desenvolvidos.
APA, Harvard, Vancouver, ISO, and other styles
2

Ramon Gomes Durães, Turíbio Tanus Salis, Frederico Gualberto Ferreira Coelho, and Antônio de Pádua Braga. "Análise de Explicabilidade de um Modelo de Aprendizado de Máquina para Aplicações Industriais." In XXIV Congresso Brasileiro de Automática. Fortaleza - CE, Brasil: SBA Sociedade Brasileira de Automática, 2022. http://dx.doi.org/10.20906/cba2022/3281.

Full text
APA, Harvard, Vancouver, ISO, and other styles
3

Rodrigues, Lucas, Leandro Coelho, and Viviana Mariani. "nálise de classificadores otimizando hiperparâmetros e reduzindo a dimensionalidade aplicados na detecção de apneia do sono." In Congresso Brasileiro de Inteligência Computacional. SBIC, 2024. http://dx.doi.org/10.21528/cbic2023-075.

Full text
Abstract:
A apneia do sono e um distúrbio do sono caracterizado por episodios de dificuldade ou obstrução da respiração durante o sono. Cerca de 4% dos homens adultos e 2% das mulheres adultas no mundo sofrem com este tipo de disturbio, podendo afetar populações mais jovens, totalizando cerca de 200 milhões de pessoas. Diversos trabalhos tem focado em criar formas automáticas para detecção da apneia do sono, destacando-se o uso de aprendizado de máquinas e o eletrocardiograma (ECG). Estes trabalhos visam utilizar um tipo específico de modelo e configurando seus hiperparâmetros empiricamente na maioria das vezes. Neste aspecto, este artigo visa o projeto de um ambiente computacional que possibilite o desenvolvimento, comparação, otimização de hiperparâmetros e explicabilidade de diferentes abordagens de classificação de aprendizado de maquina. A base pública da PhysioNet de ECGs com apneia do sono foi utilizada neste artigo para construção de um total de 11 modelos. Optuna foi empregado para busca de hiperparâmetros ideais e uma análise dos valores SHAP para explicabilidade. O melhor modelo encontrado obteve um resultado de 77,23% de acuracidade, 81,02% de sensibilidade e 82,65% de precisão. O ambiente computacional mostrou-se eficaz e possível de se utilizar em mais modelos.
APA, Harvard, Vancouver, ISO, and other styles
4

Teixeira, Raphael Lobato Collet Janny. "Diretrizes Ético-Jurídicas para o Design e Uso de Inteligência Artificial na Administração Pública." In Workshop sobre as Implicações da Computação na Sociedade. Sociedade Brasileira de Computação, 2023. http://dx.doi.org/10.5753/wics.2023.229812.

Full text
Abstract:
O presente artigo propõe diretrizes ético-jurídicas para nortear a Administração Pública no design e uso de Inteligência Artificial, a saber: i) Excelência na prestação de serviços públicos; ii) Centralidade do ser humano; iii) Segurança e Precaução; iv) Controle e Supervisão por seres humanos; v) Explicabilidade e Revisibilidade das decisões automatizadas; vi) Correção de vieses algorítmicos; vii) Transparência e Disponibilidade de dados públicos; viii) Privacidade e Segurança da Informação; e ix) Responsabilidade pelo adequado funcionamento.
APA, Harvard, Vancouver, ISO, and other styles
5

Silva, Rodrigo F., and Luiz Gomes-Jr. "Python OAM: apresentação e uso de uma biblioteca de explicabilidade para processos de detecção de outliers." In Simpósio Brasileiro de Banco de Dados. Sociedade Brasileira de Computação - SBC, 2022. http://dx.doi.org/10.5753/sbbd_estendido.2022.21846.

Full text
Abstract:
Detecção de outliers é usada para identificar falhas e fraudes, entre outras aplicações. Algoritmos de detecção são limitados em termos de prover informação sobre a razão da anomalia identificada. Outlier Aspect Mining (OAM) analisa quais aspectos da observação anômala a separam das demais. Este artigo descreve a implementação e uso de uma biblioteca em Python que possibilita o usuário aplicar algoritmos de OAM e analisar os resultados. Demonstramos a aplicação da biblioteca em um caso de uso relacionado à pandemia de COVID-19.
APA, Harvard, Vancouver, ISO, and other styles
6

Magnus, Tiago de Carvalho, and Jéferson de Campos Nobre. "Impacto da criptografia da camada de transporte em análises de fluxos com aprendizado de máquina." In Simpósio Brasileiro de Segurança da Informação e de Sistemas Computacionais. Sociedade Brasileira de Computação - SBC, 2023. http://dx.doi.org/10.5753/sbseg.2023.233560.

Full text
Abstract:
Com o aumento no uso da criptografia nas comunicações de redes de computadores, é possível que, no futuro, a criptografia dos protocolos da camada de transporte se torne algo comum, o que pode dificultar ou tornar menos eficiente a análise automatizada de fluxos de rede. Este artigo propõe e implementa uma análise sobre o impacto dessa possível criptografia em análises de fluxos com aprendizado de máquina. Os resultados mostraram que a criptografia dessa camada da rede poderia afetar a análise de fluxos de rede. Os conceitos de explicabilidade e interpretabilidade foram utilizados para avaliar a qualidade dos resultados.
APA, Harvard, Vancouver, ISO, and other styles
7

de Sousa, Thiago Monteles, Amanda Bueno de Moraes, Warde Antonieta da Fonseca Zang, and Regina Célia Bueno da Fonseca. "Avaliação estatística dos fatores cruciais nos parâmetros de qualidade da água no reservatório João Leite, Goiás." In Escola Regional de Informática de Goiás. Sociedade Brasileira de Computação, 2023. http://dx.doi.org/10.5753/erigo.2023.237318.

Full text
Abstract:
Este estudo identificou fatores determinantes na qualidade da água do reservatório João Leite em Goiás para auxiliar na tomada de decisões sobre o uso de recursos. Foram aplicadas técnicas estatísticas e métodos computacionais para avaliar multicolinearidade, coocorrência e explicabilidade dos parâmetros de qualidade da água. Inicialmente, a seleção de parâmetros reduziu de 19 para 7 por meio de Análise Fatorial e Análise de Componentes Principais, condensando-os em dois componentes principais que explicam 86,67% da variação total dos dados. Além disso, a análise resultou na criação de um modelo de regressão não-linear com XGBoost para prever o parâmetro turbidez, obtendo como resultado um erro quadrático médio de 4,93.
APA, Harvard, Vancouver, ISO, and other styles
8

Costa, Herbert da Silva, Anderson Cordeiro Cardoso, Cristiane Mendes Netto, David Correa Martins-Jr, and Sérgio Nery Simões. "A Framework for prediction of dropout in distance learning through XAI techniques in Virtual Learning Environment." In Encontro Nacional de Inteligência Artificial e Computacional. Sociedade Brasileira de Computação - SBC, 2022. http://dx.doi.org/10.5753/eniac.2022.227586.

Full text
Abstract:
Um desafio na modalidade EaD é combater a evasão, que segundo a ABED, varia entre 21 e 50%. Para este fim, diversos métodos de mineração de dados foram aplicados, utilizando dados de interações dos alunos no AVA. Contudo, um problema relevante é selecionar as melhores características (variáveis/atributos) para predição da evasão. Neste artigo, propomos um arcabouço que utiliza métodos de explicabilidade (XAI-SHAP) para selecionar atributos com maior poder preditivo em VLE que utilizam CMS terceirizados. Após a seleção, o modelo proposto alcançou resultados de recall 0,96 e precision 0,95, compatíveis com o estado da arte, porém utilizando um conjunto menor de atributos e uma base de dados com menor número de instâncias.
APA, Harvard, Vancouver, ISO, and other styles
9

Viana, Henrique E., Cesar A. Tacla, and Jean M. Simão. "Computational implementation of an explainable state machine-based agent." In Encontro Nacional de Inteligência Artificial e Computacional. Sociedade Brasileira de Computação - SBC, 2023. http://dx.doi.org/10.5753/eniac.2023.234005.

Full text
Abstract:
Existem casos em que um sistema deve atuar de forma autônoma. Um exemplo é realizar uma exploração em um cenário de acidente ou catástrofe natural para resgatar as vítimas. Uma das áreas que trata de sistemas autônomos é nomeada de Multiagente. Por diversas razões, pode ser necessário que o sistema gere explicações sobre suas ações. Por exemplo, por que um certo agente resgatou a pessoa A em vez da B? Quando um sistema tem impacto sobre vidas humanas, gerar explicações pode ser um requisito. Com base nisso, esse trabalho tem como objetivo realizar a implementação computacional de um agente explicável. A implementação é baseada em um modelo estrutural e um modelo de explicabilidade, existentes na literatura. Existem também simplificações para facilitar a implementação computacional, que é baseada em máquina de estados. A implementação foi construída na linguagem Python, e encapsulada em uma biblioteca genérica que pode ser configurada para qualquer cenário. Essa implementação foi testada para um cenário. Nesse cenário o agente precisa resgatar vítimas de um acidente. O objetivo dos testes é analisar as explicações geradas. A implementação demonstrou ser capaz de capturar os elementos essenciais para explicar as decisões do agente e gerar explicações a partir delas.
APA, Harvard, Vancouver, ISO, and other styles
10

Aleixo, Robson, Fabio Kon, and Raphael Y. de Camargo. "Predição de Surtos de Dengue e Diagnóstico de Sífilis Congênita Utilizando Aprendizado de Máquina." In Anais Estendidos do Simpósio Brasileiro de Computação Aplicada à Saúde. Sociedade Brasileira de Computação (SBC), 2023. http://dx.doi.org/10.5753/sbcas_estendido.2023.229432.

Full text
Abstract:
A sífilis congênita e a dengue são duas doenças que causam impactos significativos no Brasil e em outros países do Hemisfério Sul, afetando a saúde de milhões de pessoas. A sífilis é uma infecção sexualmente transmissível (IST) que ao ser transmitida em crianças durante o período da gestação, é chamada de sífilis congênita. Já a dengue é uma doença viral transmitida pelos mosquitos Aedes Aegypti e Aedes Albopictus. Nesta dissertação, desenvolvemos aplicações inovadoras de modelos de aprendizado de máquina para essas doenças. O primeiro deles estima a probabilidade de uma criança nascer com sífilis. O segundo prevê surtos de dengue com base em dados sociodemográficos, climáticos, série histórica de casos, número de unidades de saúde, índice de mensuração de mosquitos e séries históricas de zika e chikungunya. No caso da sífilis congênita, avaliamos os modelos pela métrica AUC (Area Under Curve) e o resultado foi bom mas não excelente, i.e., 0.68 para a predição de casos positivos, obtidos pelos modelos LightGBM e XGBoost. No que se refere à dengue, o modelo Catboost obteve resultados muito bons, identificando 75% dos surtos com três meses de antecedência. Parte significativa deste trabalho foi investida na explicabilidade das predições de dengue, o que torna o modelo um importante aliado para a desenho de políticas públicas de saúde.
APA, Harvard, Vancouver, ISO, and other styles
We offer discounts on all premium plans for authors whose works are included in thematic literature selections. Contact us to get a unique promo code!

To the bibliography