Como uma máquina aprende e falha – uma gramática de erro para inteligência artificial

Working at the convergence between the humanities and computer science, this text aims to outline a general grammar of machine learning and systematically provide an overview of its limits, approaches, biases, errors, fallacies and vulnerabilities. The conventional term Artificial Intelligence is retained although technically speaking, it would be more accurate to call it machine learning or computational statistics, but these terms would not be attractive to companies, universities and the art market. A review is made of the limitations affecting AI as a mathematical and cultural technique, highlighting the role of error in the definition of intelligence in general. Machine learning is described as consisting of three parts: training data set, statistical algorithm and model application (as classification or prediction) and three types of biases are distinguished: world, data and algorithm. It is argued that the logical limits of statistical models produce or amplify bias (which is often already present in the training data sets) and cause classification and prediction errors. On the other hand, the degree of information compression by the statistical models used in machine learning causes a loss of information that results in a loss of social and cultural diversity. In short, the main effect of machine learning on society as a whole is cultural and social normalization. There is a degree of mythologizing and social bias around its mathematical constructs, where Artificial Intelligence has inaugurated the era of statistical science fiction.Trabajando en la convergencia entre las humanidades y las ciencias de la computación, este texto pretende esbozar una gramática general del aprendizaje automático y proporcionar sistemáticamente una visión general de sus límites, aproximaciones, sesgos, errores, falacias y vulnerabilidades. Se conserva el término convencional de Inteligencia Artificial aunque técnicamente hablando, sería más preciso llamarla aprendizaje automático o estadística computacional, pero estos términos no serían atractivos para las empresas, las universidades y el mercado del arte. Se hace una revisión de las limitaciones que afectan a la IA como técnica matemática y cultural, destacando el papel del error en la definición de la inteligencia en general. Se describe al aprendizaje automático como compuesto por tres partes: conjunto de datos de entrenamiento, algoritmo estadístico y aplicación del modelo (como clasificación o predicción) y se distinguen tres tipos de sesgos: del mundo, de los datos y del algoritmo. Se sostiene que los límites lógicos de los modelos estadísticos producen o amplifican el sesgo (que a menudo ya está presente en los conjuntos de datos de entrenamiento) y provoca errores de clasificación y predicción. Por otro lado, el grado de compresión de la información por parte de los modelos estadísticos utilizados en el aprendizaje automático provoca una pérdida de información que se traduce en una pérdida de diversidad social y cultural. En definitiva, el principal efecto del aprendizaje automático en el conjunto de la sociedad es la normalización cultural y social. Existe un grado de mitificación y sesgo social en torno a sus construcciones matemáticas, donde la Inteligencia Artificial ha inaugurado la era de la ciencia ficción estadística.Trabalhando na convergência entre as ciências humanas e a informática, este texto visa delinear uma gramática geral de aprendizagem de máquinas e fornecer sistematicamente uma visão geral de seus limites, aproximações, enviesamentos, erros, falácias e vulnerabilidades. O termo convencional Inteligência Artificial é mantido, embora tecnicamente falando, seria mais preciso chamá-lo de aprendizagem mecânica ou estatística computacional, mas estes termos não seriam atraentes para as empresas, universidades e o mercado de arte. É feita uma revisão das limitações que afetam a IA como uma técnica matemática e cultural, destacando o papel do erro na definição da inteligência em geral. O aprendizado da máquina é descrito como consistindo de três partes: conjunto de dados de treinamento, algoritmo estatístico e aplicação do modelo (como classificação ou previsão) e três tipos de vieses são distinguidos: mundo, dados e algoritmo. Argumenta-se que os limites lógicos dos modelos estatísticos produzem ou amplificam o viés (que freqüentemente já está presente nos conjuntos de dados de treinamento) e levam a erros de classificação e previsão. Por outro lado, o grau de compressão da informação por modelos estatísticos utilizados na aprendizagem de máquinas causa uma perda de informação que resulta em uma perda de diversidade social e cultural. Em última análise, o principal efeito da aprendizagem mecânica na sociedade como um todo é a normalização cultural e social. Há um certo grau de mitologia e preconceito social em torno de suas construções matemáticas, onde a Inteligência Artificial deu início à era da ficção científica estatística