Justiça preditiva e proteção de grupos vulneráveis: análise dos Vieses discriminatórios decorrentes da automação judicial

Abstract

This doctoral investigation focuses on the new forms of vulnerability experienced by socially vulnerable groups through the use of artificial intelligence in decision automation. Based on this problem, the hypothesis posits that the development of algorithms originally based on Human Rights will directly lead to the end of discriminatory acts resulting from judicial automation. The general objective of this thesis is to analyze how it would be possible to implement tools to protect vulnerable groups subjected to assessment by artificial intelligence software in Criminal Justice. The specific objectives are: a) examine the process of creating artificial intelligence tools used as aids in state judicial activity and predictive justice to understand their

functioning; b) study the ethical relevance of using intelligent software in decision- making processes by public and private entities;

c) analyze legislative texts that aim to regulate the matter and whether the response to such violations can be obtained through regulation; d) investigate the process of vulnerability of social minorities, their causes, and main factors of marginalization; e) assess and propose public policies to prevent the victimization of vulnerable groups subjected to automated scrutiny by the Judiciary and other public entities. From a methodological perspective, the thesis is classified as exploratory and follows a hypothetical-deductive method, using bibliographic and documentary research as a technique, through books, scientific articles, and legislation. At the end of the research, it was possible to confirm the proposed hypothesis, both through the scientific evidence demonstrated and through the mass adoption of the regulatory system by large States, highlighting the need for regulation to protect vulnerable groups subjected to automated decisions in the Judiciary.

SINTESI La presente indagine dottorale ha come oggeto di studio le nuove forme di vulnerabilizzazione subite dai gruppi socialmente vulnerabili, attraverso l'utilizzo dell'intelligenza artificiale nell'automazione delle decisioni. Partendo da questa problematica, si ipotizza che lo sviluppo di algoritmi basati originariamente sui Diritti Umani porterà direttamente alla fine degli atti discriminatori derivanti dall'automazione giudiziaria. L'obiettivo generale di questa tesi è l’analisi di come sia possibile implementare strumenti per la protezione dei gruppi vulnerabili sottoposti a valutazione da parte di software di intelligenza artificiale nella Giustizia Criminale. Gli obiettivi specifici sono: a) esaminare il processo di creazione di strumenti di intelligenza artificiale utilizzati come ausiliari nell'attività giudiziaria statale e nella giustizia predittiva, al fine di comprenderne il funzionamento; b) studiare la pertinenza etica dell'utilizo di software intelligenti nei processi decisionali da parte di enti pubblici e privati; c) analizzare i testi legislativi che si propongono di regolamentare la materia e se la risposta a tali violazioni può essere ottenuta attraverso la regolamentazione; d) investigare il processo di vulnerabilità delle minoranze sociali, le sue cause e i principali fattori di marginalizzazione; e) valutare e proporre politiche pubbliche per evitare la vittimizzazione dei gruppi vulnerabili sottoposti a valutazione automatizzata da parte del Potere Giudiziario e altri enti pubblici. Dal punto di vista metodologico, la tesi si classifica come esplorativa e si basa su un metodo ipotetico-deduttivo, utilizzando come tecnica la ricerca bibliografica e documentale, tramite libri, articoli scientifici e legislazione. Al termine della ricerca, è stato possibile confermare l’ipotesi proposta, sia attraverso le evidenze scientifiche dimostrate, sia attraverso l’adozione massiva del sistema normativo da parte dei grandi Stati, evidenziando la necessità di una regolamentazione a tutela dei gruppi vulnerabili sottoposti a decisioni automatizzate nel contesto Giudiziario.