Desde la caja negra a la comprensión: fortaleciendo el vínculo modelo-fenómeno mediante inteligencia artificial explicable
DOI:
https://doi.org/10.48160/18532330me16.442Palabras clave:
comprensión científica, incertidumbre del vínculo, modelos opacos, inteligencia artificial explicableResumen
Este artículo aborda el desafío de obtener comprensión científica a partir de modelos de aprendizaje automático. Tomando como base a Sullivan (2022), argumento que los modelos opacos pueden proporcionar comprensión si se fortalece el vínculo con el fenómeno representado. Para ello, propongo integrar métodos de inteligencia artificial explicable con el fin de identificar características relevantes en el input y, basándose en ellas, recolectar evidencia empírica guiada por conocimiento teórico para reducir la incertidumbre.
Citas
Adebayo, J., Gilmer, J., Muelly, M., Goodfellow, I., Hardt, M. y B. Kim (2018), “Sanity Checks for Saliency Maps”, Advances in Neural Information Processing Systems 31: 1-11.
Burrell, J. (2016), “How the Machine ‘Thinks’: Understanding Opacity in Machine Learning Algorithms”, Big data & society 3(1): 2053951715622512.
Creel, K. A. (2020), “Transparency in Complex Computational Systems”, Philosophy of Science 87(4): 568-589.
Doshi-Velez, F. y B. Kim (2017), “Towards a Rigorous Science of Interpretable Machine Learning”, arXiv preprint arXiv: 1702.08608.
Durán, J. M. y G. Pozzi (2025), “Trust and Trustworthiness in AI”, Philosophy & Technology 38(1): 1-31.
Elgin, C. Z. (2017), True Enough, Cambridge, MA: MIT Press.
Girish, G. P., Bhagat, R., Preeti, S. H. y S. Singh (2023), “AI Models for Spot Electricity Price Forecasting —A Review”, en Vasant, P. et al. (eds.), Intelligent Computing and Optimization, ICO 2023, Lecture Notes in Networks and Systems, Vol. 852, Cham: Springer, pp. 97-103.
Hai, D. H. y P. Van Tuan (2024), “AI and Econometric Modeling: Deep Reinforcement Learning in Predictive Modeling”, en Kreinovich, V., Yamaka, W. y S. Leurcharusmee (eds.), Applications of Optimal Transport to Economics and Related Topics. Studies in Systems, Decision and Control, Vol. 556, Cham: Springer, pp. 53-60.
Humphreys, P. (2009), “The Philosophical Novelty of Computer Simulation Methods”, Synthese 169: 615-626.
Lipton, Z. C. (2018), “The Mythos of Model Interpretability: In Machine Learning, the Concept of Interpretability is Both Important and Slippery”, Queue 16(3): 31-57.
Molnar, C., Casalicchio, G. y B. Bischl (2020), “Interpretable Machine Learning–A Brief History, State-of-the-Art and Challenges”, Joint European Conference on Machine Learning and Knowledge Discovery in Databases, Cham: Springer, pp. 417-431.
Paez, A. (2025), “Axe the X in XAI: A Plea for Understandable AI”, por publicarse en Durán, J. M. y G. Pozzi (eds.), Philosophy of Science for Machine Learning: Core Issues and New Perspectives.
Páez, A. (2019), “The Pragmatic Turn in Explainable Artificial Intelligence (XAI)”, Minds & Machines 29: 441-459.
Pesenti, A. y A. O’Sullivan (2025), “Explaining Deep Neural Network Models for Electricity Price Forecasting with XAI”, Energy and AI 21: 100532.
Rudin, C. (2019), “Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead”, Nature Machine Intelligence 1(5): 206-215.
Sullivan, E. (2022). “Understanding from Machine Learning Models”, British Journal for the Philosophy of Science 73(1): 109-133.
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
LicenciaLos documentos aquí publicados se rigen bajos los criterios de licencia Creative Commons Argentina.Atribución - No Comercial - Sin Obra Derivada 2.5
