La tecnologia in tempo di crisi
Come viene utilizzata la tecnologia avanzata per arginare gli effetti negativi delle emergenze, sia quelle politiche (come il terrorismo internazionale) sia quelle non politiche (come la pandemia)? La frequente sostituzione del decisore umano con algoritmi intelligenti ha un impatto sul modo in cui le democrazie avanzate affrontano le emergenze e garantiscono la tutela dei diritti "in tempi di stress"?
Queste domande, che sono alla base del progetto di eccellenza PRIN Decision-Making in the Age of Emergencies: New Paradigms in Recognition and Protection of Rights, nascono da tre principali preoccupazioni sollevate dall'uso dell'intelligenza artificiale "nelle crisi". Il primo è l'impatto sui diritti e sulle libertà in sé (cioè il rischio di una loro limitazione sproporzionata); il secondo, le sue conseguenze istituzionali, che indirettamente hanno una ricaduta sui diritti umani; il terzo, il rapporto tra il ricorso all'IA e il mercato, quindi le implicazioni sui diritti economici.
Il primo aspetto è il più "ovvio": siamo tutti abituati a pensare che i sistemi automatizzati e autoprogrammanti - non solo durante le emergenze, ma anche nella vita di tutti i giorni - possano violare i nostri diritti alla privacy, alla protezione dei dati, alla libertà di parola, data la quantità di dati (i cosiddetti big data) di cui gli algoritmi devono essere "nutriti". Tuttavia, quando ciò avviene in tempi di emergenza (pensiamo ai regimi di sorveglianza basati sulle cosiddette scatole nere), si pongono questioni ancora più delicate: da un lato, le persone sono inclini ad accettare limitazioni più forti in nome di un "bene superiore" (per esempio, la sicurezza nazionale o la salute pubblica), ma ciò potrebbe essere dannoso per il mantenimento dello Stato di diritto; dall'altro, nelle emergenze più che in ogni altro contesto, questi strumenti avanzati sono spesso utilizzati in segreto, contribuendo a creare seri problemi in termini di trasparenza e responsabilità.
Le conseguenze istituzionali riguardano la progressiva e apparentemente ineluttabile erosione dei poteri pubblici che l'uso di tecnologie raffinate comporta. Sebbene vi siano alcuni tentativi di regolamentare questi strumenti - anche in fase di emergenza - attraverso fonti giuridicamente vincolanti, la loro attuazione pratica è ampiamente lasciata ai cosiddetti "giganti della tecnologia", che, così, sono coinvolti in modo significativo nelle funzioni pubbliche (per esempio, programmando algoritmi per scopi di sorveglianza, sviluppando app per il tracciamento dei contatti, e così via). Indubbiamente, lo "spostamento" di poteri a questi soggetti rischia di incidere sulle garanzie dei diritti e delle libertà, in quanto questi enti privati operano con logiche diverse da quelle degli enti pubblici.
Il terzo aspetto è che quanto più questi sistemi algoritmici avanzati sono essenziali per affrontare efficacemente le minacce (pensiamo agli algoritmi che segnalano i contenuti potenzialmente "pericolosi" online), tanto più alto è il rischio che solo le grandi aziende siano in grado di permetterseli. Così, le imprese più piccole potrebbero finire per essere escluse dal mercato, con potenziali conseguenze negative sui diritti economici, almeno se non si prendono contromisure.
Le dinamiche descritte non sono necessariamente "malvagie" in toto, in quanto potrebbero essere caratteristiche naturali dello sviluppo dell'era digitale, influenzando inevitabilmente, tra l'altro, la gestione delle emergenze. Di sicuro, però, vanno monitorate e sorvegliate, per non "sfregiare" le caratteristiche principali dei sistemi basati sullo Stato di diritto. In altre parole, la tecnologia corre più veloce del diritto, e questo è un dato di fatto; tuttavia, ciò non deve indurre i regolatori pubblici a tirarsi completamente indietro.