Estudios críticos sobre algoritmos: ¿un punto de encuentro entre la ingeniería y las ciencias sociales?

We are in the Era of the Algorithm or, as is pointed out by some experts, in an “algocracy” where math and computer sciences are becoming a powerful mechanism that influences and guides our behavior and the governance of society. This “algocracy”, beyond our vision or will for action, more and more conditions our existence. In addition, its increasing use, while providing us with a powerful tool for knowledge, also restricts, manipulates, controls, and provokes us, at times in a benign way and at others in a riskier and more problematic one. At present, our perception confuses its effectiveness and legitimacy. Engineering and the social sciences have a common field of work and dialogue to face the new social challenges presented by the digital society. This paper describes and identifies some lynchpins that are set forth in critical studies on algorithms, their fundamental properties and social, ethical, political and legal issues, which are produced or reinforced by their use, as well as the most suitable social science methodologies to analyze them.Estamos na era do algoritmo o, como alguns especialistas apontam, em uma “algocracia” onde a matemática e a ciência da computação estão se transformando em um poderoso mecanismo de influência, moldando e guiando o nosso comportamento e a governança da sociedade. A “algocracia”, além de nossa visão ou nossa vontade de ação, condiciona cada vez mais a nossa existência, e o seu uso crescente, ao mesmo tempo em que nos dota de uma poderosa ferramenta de conhecimento, nos restringe, manipula, controla e provoca, algumas vezes de forma mais benigna e outras de forma mais arriscada e problemática. Na hora percebemos de modo confuso sua efetividade e legitimidade. As ciências sociais e a engenharia têm um campo de trabalho em comum e de diálogo para enfrentar os novos desafios sociais colocados pela sociedade digital. Este trabalho descreve e identifica alguns eixos centrais que surgem nos estudos críticos sobre algoritmos, suas propriedades fundamentais e os problemas sociais, éticos, políticos e legais que são produzidos ou reforçados pelo seu uso, e as metodologias das ciências sociais mais adequadas para analisá-los.Estamos en la era del algoritmo o, como señalan algunos expertos, en una “algocracia” donde las matemáticas y las ciencias de la computación se están transformando en un poderoso mecanismo de influencia, conformando y guiando nuestro comportamiento y la gobernanza de la sociedad. La “algocracia”, más allá de nuestra visión o de nuestra voluntad de acción, condiciona cada vez más nuestra existencia, y su uso creciente, al mismo tiempo que nos dota de una poderosa herramienta de conocimiento, nos restringe, manipula, controla y provoca, algunas veces de manera más benigna y otras de forma más riesgosa y problemática. De momento percibimos de manera confusa su efectividad y legitimidad. Las ciencias sociales y la ingeniería tienen un campo de trabajo en común y de dialogo para hacer frente a los nuevos desafíos sociales que plantea la sociedad digital. Este trabajo describe e identifica algunos ejes centrales que se plantean en los estudios críticos sobre algoritmos, sus propiedades fundamentales y los problemas sociales, éticos, políticos y legales producidos o reforzados por su utilización, y las metodologías de las ciencias sociales más aptas para analizarlos