Un nuovo termine inquietante si fa strada nell’era dell’Intelligenza Artificiale: algocrazia. Nato originariamente per indicare l’effetto che le tecnologie informatiche hanno sull’evoluzione del lavoro, assume oggi un significato più ampio, che si è esteso all’intera società descrivendo il fenomeno della sempre più pervasiva influenza degli algoritmi e delle Intelligenze Artificiali nella gestione dei processi decisionali, erodendo progressivamente il margine d’azione umano.
Se un tempo le decisioni venivano prese da singoli individui o gruppi sulla base di esperienza, intuizione e negoziazione, oggi sempre più scelte vengono demandate a modelli predittivi, machine learning e big data, entrati in modo dirompente nella governance di ambiti strategici come la finanza, la sanità, la giustizia e la politica. Questa evoluzione presenta indubbiamente numerosi vantaggi, ma solleva altrettanti interrogativi: possono gli algoritmi, basati su calcoli e analisi di dati, sostituire la sensibilità, l’esperienza e il giudizio dell’uomo? Quali sono i rischi per la libertà individuale e la democrazia?
L’algocrazia è la pervasiva influenza di algoritmi e Intelligenze Artificiali nella gestione dei processi decisionali
Uno dei settori che ha raggiunto un elevatissimo livello di automazione è quello finanziario, dove le transazioni in borsa sono ormai quasi interamente gestite da high-frequency trading (HFT), che prendono decisioni finanziarie in millisecondi, spesso senza controllo umano diretto. Se da un lato questo ha incrementato la velocità e l’efficienza del mercato, dall’altro ha reso più probabili fenomeni destabilizzanti, come i crolli improvvisi generati da oscillazioni impreviste dei dati. In ambito sanitario l’Intelligenza Artificiale è oggi impiegata per la diagnosi di numerose patologie, consentendo una riduzione degli errori umani e un’accelerazione dei tempi di risposta. I vantaggi e le possibili evoluzioni future sono evidenti, ma non mancano dubbi di natura etica. L’affidamento totale a sistemi automatici potrebbe portare a una perdita di empatia e personalizzazione nel trattamento dei pazienti, rendendo il rapporto medico-paziente sempre più distante e portando ad una progressiva deresponsabilizzazione sui trattamenti medici impiegati. Anche nel settore della giustizia, per sua natura storicamente caratterizzato dell’intervento e dal discernimento umano, si stanno introducendo software predittivi capaci di analizzare migliaia di sentenze e fare previsioni per supportare i giudici. Un caso emblematico è rappresentato dal software COMPAS, utilizzato negli Stati Uniti per determinare il rischio di recidiva dei detenuti e indirizzare le sentenze. Nonostante la promessa di una maggiore oggettività, questi sistemi hanno dimostrato di essere vulnerabili a bias preesistenti, penalizzando soprattutto minoranze etniche e gruppi sociali svantaggiati, a causa dell’influenza dei dati storici con cui vengono addestrati, perdendo di vista gli elementi soggettivi e i contesti che solo la sensibilità e la capacità critica umana sono in grado di tenere in considerazione.
L’affidamento totale a sistemi automatici in sanità potrebbe portare a una perdita di empatia e una progressiva deresponsabilizzazione
In alcuni paesi gli algoritmi stanno entrando a gamba tesa anche nelle decisioni relative alle scelte di governance, con l’analisi predittiva che viene utilizzata per orientare le strategie elettorali, influenzando le decisioni e i comportamenti di partiti e candidati sulla base dei dati raccolti in rete. L’utilizzo di big data e algoritmi avanzati consente di profilare con estrema precisione gli elettori, permettendo la creazione di campagne mirate che sfruttano non solo le preferenze espresse pubblicamente, ma anche modelli predittivi che anticipano il comportamento di voto sulla base di interazioni digitali e abitudini personali. Fra tutte, questa applicazione della tecnologia è quella che desta più preoccupazioni: dalla sin troppo facile manipolazione dell’opinione pubblica, alla scarsa trasparenza dei processi democratici, fino alla possibilità che alcuni gruppi di potere possano ottenere un vantaggio sproporzionato nell’orientare il consenso elettorale. Il rischio di distorsione dell’informazione e di polarizzazione dell’elettorato diventa ancora più evidente quando piattaforme social e motori di ricerca utilizzano algoritmi di raccomandazione per influenzare attivamente il dibattito pubblico, limitando l’accesso a punti di vista alternativi e rafforzando le cosiddette “bolle informative”.
La governance algoritmica solleva interrogativi inquietanti sulla libertà individuale trasformando il controllo sociale in una forma di repressione
La Cina, tramite iniziative pilota sia pubbliche che private, sta già sperimentando un sistema di questo tipo attraverso l’introduzione del social credit score che, utilizzando i big data per valutare il comportamento dei cittadini e la loro affidabilità, condiziona l’accesso a prestiti, a opportunità lavorative e alla fruizione di alcuni servizi. Questo modello di governance algoritmica solleva interrogativi inquietanti sulla libertà individuale trasformando il controllo sociale in una forma di repressione mascherata da efficienza tecnologica. Un aspetto altrettanto preoccupante è la manipolazione del comportamento attraverso piattaforme social e i motori di ricerca che possono influenzare scelte di consumo, decisioni sulla vita quotidiana o sui progetti futuri e, persino relazioni sociali, senza che gli utenti ne siano consapevoli. Inoltre, molti sistemi decisionali basati su algoritmi funzionano come “black box”, ovvero non è possibile capire come abbiano generato una decisione. Se l’AI rifiuta un prestito, nega un’assicurazione sanitaria, decide un licenziamento o esclude un candidato per un lavoro, difficilmente il soggetto interessato avrà in mano degli elementi chiari per contestare la decisione o chiederne una revisione.
La tendenza all’algocrazia viene spesso giustificata presumendo che le macchine siano più efficienti, veloci e imparziali rispetto agli esseri umani
Di fronte a questa crescente delega del potere decisionale alle macchine, sorge spontanea una domanda: quale sarà il ruolo dell’essere umano in una società dominata dagli algoritmi? La tendenza all’algocrazia viene spesso giustificata con il presunto vantaggio dell’automazione rispetto all’intervento umano, basato sull’idea che le macchine siano più efficienti, veloci e imparziali rispetto agli esseri umani: gli algoritmi possono analizzare quantità di dati inimmaginabili per una mente umana, individuando pattern nascosti e prendendo decisioni basate su analisi scientifiche. La razionalità e l’oggettività umana viene dunque messa in discussione perché basata su preconcetti, emozioni ed errori ricorrenti e, certamente non in grado analizzare tutti gli scenari possibili e decidere in base a previsioni puntuali. Tuttavia, questa narrazione ignora un aspetto fondamentale: gli algoritmi non sono indipendenti, ma vengono addestrati su dati storici che riflettono le disuguaglianze, le discriminazioni e i pregiudizi della società, distorsioni che se non corrette vengono non solo perpetuate, ma anche amplificate dagli algoritmi stessi.
Con l’algocrazia il valore sociale di un individuo sarà determinato da una serie di dati sapientemente combinati fra loro
Se la tendenza attuale continuerà, potremmo trovarci in un futuro in cui la legislazione verrà redatta da Intelligenze Artificiali, i tribunali saranno interamente automatizzati e il valore sociale di un individuo sarà determinato da una serie di dati sapientemente combinati fra loro. Questa prospettiva, sebbene ancora lontana, non è del tutto irrealistica e, se l’algocrazia appare inevitabile, occorre evitare una deriva verso una dittatura algoritmica, ponendo al centro dello sviluppo tecnologico la trasparenza, l’autodeterminazione, la libertà umana, l’etica e la responsabilità. La sfida per il futuro sarà trovare un equilibrio fra l’uso degli algoritmi a servizio dell’uomo e la preservazione della sovranità umana altrimenti, in un mondo dominato dai dati, chi controllerà gli algoritmi avrà il vero potere. La domanda fondamentale rimane: chi decide cosa decidono gli algoritmi?
Mariarosaria Zamboi – www.leurispes.it
