Interpretabilidad y Explicabilidad (XAI) en Sistemas Inteligentes: Estrategias computacionales para mitigar la caja negra

IPN_ESCOM_talk_May07th25.pdf

Descargar PDF • 1.83MB

Resumen: La Inteligencia Artificial (IA) ha logrado avances espectaculares, permeando numerosas facetas de nuestra vida. Sin embargo, muchos de los modelos más potentes, como las redes neuronales profundas, operan como "cajas negras", dificultando la comprensión de sus procesos internos de toma de decisiones. Esta opacidad plantea serios desafíos en términos de confianza, ética, robustez y cumplimiento normativo. La Interpretabilidad y Explicabilidad en IA (XAI) emerge como un campo crucial para abordar estos retos. Este artículo explora la problemática de las cajas negras, presenta un panorama de las estrategias computacionales para mitigarlas y profundiza en la Lógica Difusa como un paradigma intrínsecamente interpretable, capaz de ofrecer transparencia y un razonamiento cercano al humano.

Palabras Clave: Inteligencia Artificial Explicable (XAI), Interpretabilidad, Caja Negra, Lógica Difusa, Sistemas de Inferencia Difusa, Funciones de Pertenencia, Reglas Difusas.

Article__XAI.pdf

Descargar PDF • 337KB