Cómo una máquina aprende y falla: una gramática del error para la Inteligencia Artificial

• Autores: Pasquinelli, Matteo
• Año de publicación: 2022
• Idioma: español castellano
• Tipo de recurso: artículo
• Materia: Ciencias Sociales; Inteligencia artificial; Aprendizaje automático; Error estadístico; Sesgo algorítmico; Datos de entrenamiento; Artificial intelligence; Machine learning; Algorithmic bias; Statistic error; Training data
• Institución: Universidad Nacional de La Plata

Trabajando en la convergencia entre las humanidades y las ciencias de la computación, este texto pretende esbozar una gramática general del aprendizaje automático y proporcionar sistemáticamente una visión general de sus límites, aproximaciones, sesgos, errores, falacias y vulnerabilidades. Se conserva el término convencional de Inteligencia Artificial aunque técnicamente hablando, sería más preciso llamarla aprendizaje automático o estadística computacional, pero estos términos no serían atractivos para las empresas, las universidades y el mercado del arte. Se hace una revisión de las limitaciones que afectan a la IA como técnica matemática y cultural, destacando el papel del error en la definición de la inteligencia en general. Se describe al aprendizaje automático como compuesto por tres partes: conjunto de datos de entrenamiento, algoritmo estadístico y aplicación del modelo (como clasificación o predicción) y se distinguen tres tipos de sesgos: del mundo, de los datos y del algoritmo. Se sostiene que los límites lógicos de los modelos estadísticos producen o amplifican el sesgo (que a menudo ya está presente en los conjuntos de datos de entrenamiento) y provoca errores de clasificación y predicción. Por otro lado, el grado de compresión de la información por parte de los modelos estadísticos utilizados en el aprendizaje automático provoca una pérdida de información que se traduce en una pérdida de diversidad social y cultural. En definitiva, el principal efecto del aprendizaje automático en el conjunto de la sociedad es la normalización cultural y social. Existe un grado de mitificación y sesgo social en torno a sus construcciones matemáticas, donde la Inteligencia Artificial ha inaugurado la era de la ciencia ficción estadística.
Working at the convergence between the humanities and computer science, this text aims to outline a general grammar of machine learning and systematically provide an overview of its limits, approaches, biases, errors, fallacies and vulnerabilities. The conventional term Artificial Intelligence is retained although technically speaking, it would be more accurate to call it machine learning or computational statistics, but these terms would not be attractive to companies, universities and the art market. A review is made of the limitations affecting AI as a mathematical and cultural technique, highlighting the role of error in the definition of intelligence in general. Machine learning is described as consisting of three parts: training data set, statistical algorithm and model application (as classification or prediction) and three types of biases are distinguished: world, data and algorithm. It is argued that the logical limits of statistical models produce or amplify bias (which is often already present in the training data sets) and cause classification and prediction errors. On the other hand, the degree of information compression by the statistical models used in machine learning causes a loss of information that results in a loss of social and cultural diversity. In short, the main effect of machine learning on society as a whole is cultural and social normalization. There is a degree of mythologizing and social bias around its mathematical constructs, where Artificial Intelligence has inaugurated the era of statistical science fiction.
El presente artículo es una traducción de Pasquinelli, Matteo (2019). "How a Machine Learns and Fails – A Grammar of Error for Artificial Intelligence". Journal of Digital Cultures 5 (Spectres of AI). La traducción fue autorizada por el autor y realizada por parte del Equipo Editorial de Revista Hipertextos: Emilio Cafassi, Carolina Monti, Hernán Peckaitis y Graciana Zarauza.
Facultad de Trabajo Social