Viabilidade da aplicação de sistemas de inteligência artificial aos atos administrativos discricionários

Os algoritmos têm evoluído exponencialmente nas últimas décadas e a sua implementação em todos os setores de atividade resulta simultaneamente de uma vontade – um ato voluntário - e de uma inevitabilidade. Porém quanto mais evoluídos e potentes se tornam, quantos mais dados conseguem analisar e quanto mais conseguem trabalhar com bases de dados não estruturadas, maiores são os seus efeitos resultantes das suas previsões e decisões. Existem muitos riscos associados a bases de dados enviesadas ou não representativas da sociedade, uma vez que desfavorecem grupos de risco ou minorias, provocando a discriminação, o enviesamento decisório, exponenciados pela escalabilidade e massificação dos outputs produzidos por sistemas automatizados e não dando garantias de equidade. Por outro lado, existem questões associadas à opacidade algorítmica ou efeito “black-box”, em que existe falta de transparência, de explicabilidade e interpretabilidade inteligível por todos, mas fundamentalmente pelos utilizadores intermédios ou pelos finais, das decisões e do porquê das mesmas, num direito à fundamentação. Se este contexto é já de si complexo, a sua aplicação ao campo da Administração Pública, imbuída dos seus poderes de “autonomia valorativa”, a procura de respostas à questão da viabilidade da aplicação de sistemas de IA aos atos administrativos discricionários, parece ser um desafio excessivo. Para abordar tal desafio, propusemos uma metodologia jurídico-administrativa própria, estruturada em 4 dimensões, de abordagem ao tema da automatização dos atos administrativos por níveis de decisão, de acordo com o grau de complexidade e de discricionariedade. Essa metodologia assenta num processo de automatização colaborativa e corresponsável, entre o agente público e os sistemas de IA, através de um modelo de inteligência colaborativa homem-máquina, suportado por aquilo que de mais recente existe no campo da IA - que não apenas os algoritmos de autoaprendizagem Machine e Deep Learning, mas outros bem mais evoluídos e responsivos aos requisitos que se impõem na implementação destas ferramentas no âmbito do Direito e, em particular do Direito Administrativo, em termos transparência, da IA explicável, da IA causal, de algoritmos interativos, ou dos algoritmos de computação cognitiva.In recent decades algorithms have evolved exponentially and their implementation in all sectors of activity results simultaneously from a will – a voluntary act – and from an inevitability. However, the more evolved and powerful they become, the more data they can analyze and the more they can work with unstructured databases, the greater the effects resulting from their forecasts and decisions. There are many risks associated with databases that are biased or not representative of society, since they disadvantage risk groups or minorities, causing discrimination, decision-making bias, exponentiated by the scalability and massification of outputs produced by automated systems and not giving guarantees of equity. On the other hand, there are issues associated with algorithmic opacity or the “black-box” effect, in which there is a lack of transparency, explainability and intelligible interpretability by all, but fundamentally by intermediate or end users, of decisions and the reason for them, a right to state reasons. To address this challenge, we propose our own legal-administrative methodology, structured in 4 dimensions, to approach the topic of automating administrative acts by decision levels, according to the degree of complexity and discretion. This methodology is based on a process of collaborative and co-responsible automation, between the public agent and the AI systems, through a model of collaborative human-machine intelligence, supported by the latest in the field of AI - not just algorithms Machine and Deep Learning self-learning, but others that are much more evolved and responsive to the requirements that are imposed in the implementation of these tools in the field of Law and, in particular, Administrative Law, in terms of transparency, explainable AI, causal AI, interactive algorithms , or cognitive computing algorithms