INTELIGÊNCIA ARTIFICIAL EM DECISÕES JUDICIAIS: OPACIDADE VERSUS GARANTIAS PROCESSUAIS

Contextualization: The text proposes, as its theme, a critical analysis of the use of artificial intelligence in the judicial decision-making process. Objective: The article aims to examine how the use of new technologies impacts the realization of a process with guarantees. Method: For the development of the work, the dialectical method was used, correlating the bibliography on the topic, in order to understand how the use of artificial intelligence can be beneficial or detrimental to constitutional guarantees in this field. It also investigates the issues faced when using algorithmic logic to support decisions on human matters, such as the opacity of the systems and the possibility or lack thereof to effectively question the reasons behind machine-made decisions. Finally, the need for regulation and standardization to guide the technological process in reaffirming the procedural guarantees that have been achieved is discussed. Results: It was concluded that unless artificial intelligence programs achieve a high degree of transparency and explainability, it will not be possible to use them to support or make judicial decisions.Contextualización: El texto propone, como temática, un análisis crítico del uso de la inteligencia artificial en el proceso de toma de decisiones judiciales. Objetivo: Se busca llevar a cabo un examen de cómo el uso de las nuevas tecnologías impacta en la realización de un proceso con garantías. Método: Para el desarrollo del trabajo, se utilizó el método dialéctico, correlacionando la bibliografía sobre el tema, con el fin de entender cómo el uso de la inteligencia artificial puede ser beneficioso o perjudicial para las garantías constitucionales en este campo. También se investigan los problemas que se enfrentan al usar la lógica algorítmica para respaldar la decisión sobre hechos humanos, como la opacidad de los sistemas y la posibilidad o la falta de ella para cuestionar efectivamente las razones de las decisiones hechas por máquinas. Finalmente, se discute la necesidad de una regulación y normatividad que guíe el proceso tecnológico para reafirmar las garantías procesales logradas. Resultados: Se concluyó que mientras los programas de inteligencia artificial no tengan un alto grado de transparencia y explicabilidad, no será posible su utilización para respaldar o tomar decisiones judiciales.Contextualização: O texto propõe, como temática, uma análise crítica da utilização da inteligência artificial no processo de tomada de decisões judiciais. Objetivo: Objetiva-se realizar um exame de como a utilização das novas tecnologias impacta na efetivação de um processo de garantias. Método: Para o desenvolvimento do trabalho utilizou-se o método dialético, correlacionando a bibliografia sobre o tema, de modo a compreender como o uso da inteligência artificial pode ser benéfico ou prejudicial às garantias constitucionais nesse campo. Investigam-se também os problemas enfrentados ao utilizar a lógica algorítmica para subsidiar a decisão sobre fatos humanos, como a opacidade dos sistemas e a possibilidade, ou não, de se questionar efetivamente as razões das decisões maquinais. Por fim, discute-se a necessidade de uma regulamentação e normatização que guie o processo tecnológico para reafirmar as garantias processuais conquistadas. Resultados: Concluiu-se que, enquanto os programas de inteligência artificial não tiverem um alto grau de transparência e explicabilidade, não será possível a sua utilização para subsidiar ou tomar decisões judiciais