Gestire un’attività con un algoritmo oggi significa potere. Praticamente indiscusso fino a quando, con procedure e tempi (di coloro che dovrebbero essere tutelati), non si riesce a sbrogliare la presunta matassa di chi non risponde agli standard dei meccanismi algoritmici.
Un esempio. Tutti i conti in banca sono gestiti da algoritmi con qualcuno, ovviamente, che decide quali devono essere le impostazioni degli stessi per garantire la sicurezza dell’uso del conto. Viene stabilito un livello standard dell’uso di questo conto e se si sgarra il conto viene bloccato o, per procedere, ti richiedono una serie di credenziali che devono rispondere ad altrettanti standard… che non è detto rientrino nella quotidianità dell’utente. Dicono che è per la nostra sicurezza. E’ vero. Ma è legittimo porsi più di una domanda su chi gestisce questi algoritmi, che se sono come quelli della Banca Popolare di Bari (ultimo e clamoroso esempio recente con diversi dirigenti sospesi, interdetti e in galera per la concessione di prestiti a go-go), qualche preoccupazione è più che legittima. Caso limite: sei andato fuori degli standard il venerdì pomeriggio e viene bloccato il tuo conto… devi aspettare il lunedì, non usare il conto per tre giorni, e dedicare
il tuo tempo ad andare in filiale per far presente che quell’operazione individuata dall’algoritmo come pericolosa era sì giusta per il meccanismo, ma sbagliata per te.
Domanda principe: devo per forza vivere una vita standard?
Altro esempio. I voti a scuola e i test per un qualunque esame e/o concorso sono anch’essi soggetti ad algoritmi. Siano essi nel metodo di valutazione da parte dell’insegnante che nell’uso tecnologico di software che redige risultati buoni o cattivi.
L’insegnante è pur sempre un essere umano, si dirà, quindi, più che algoritmo che reagisce in automatico si tratta di valutazione rispetto ad alcuni parametri che, si presuppone essendo esseri umani, siano filtrati nel contesto. Il software non valuta il contesto (anche se con l’intelligenza artificiale – AI – ci dicono che si arriverà anche a questo), ma l’insegnante sì. In teoria. Ché in pratica è molto raro l’insegnante che, per arrivare al voto, si mette a valutare un compito riflettendo sul tipo e sul contesto dell’eventuale errore: quasi sempre si sommano gli errori, ognuno dei quali ha un punteggio specifico, e si avvia la sottrazione partendo in genere dal numero 10. Ed ecco la valutazione finale. Ci sono anche gli insegnanti che sono meno schematici e “tecnici”? Probabile… aspetto qualcuno che me ne presenti uno.
Nel caso di esame/concorso, il tutto è solo rigido. Casi tipici l’esame per la patente di guida o per un concorso di ammissione ad un qualche posto di lavoro. Il ritmo e la quantità di testi da esaminare non consente altro che l’uso dell’algoritmo.
Domanda principe: devo per forza vivere una vita standard?
I due esempi che abbiamo esposto sono aspetti diffusi della vita quotidiana. Altri con diverse caratteristiche possono essere aggiunti. Ma alla fine è costante la “domanda principe”: devo per forza vivere una vita standard?
Ovviamente non stiamo parlando di chi, magari rifacendosi al fascino di modelli culturali mediatici di successo, presume che andare oltre lo standard debba necessariamente significare “vivere un vita spericolata, ad ore” o “guidare a fari spenti nella notte”. No. Parliamo di persone “normali”, che pensano, riflettono, hanno necessità, agiscono e vogliono poterlo fare senza porsi il problema che – ovviamente senza nuocere a nessuno – devono far fede ad uno standard. Che non è lo standard delle leggi e delle norme istituzionali (che rappresentano il patto istituzionale di cittadinanza che ci lega per vivere in comunità, e quindi giustamente da non violare), ma standard utilizzati (e quasi sempre imposti) da chi ti fornisce dei servizi. Standard di servizio che, in alcuni momenti, utilizzarli (ammesso che tu ne sia edotto… tipico il caso della banca che abbiamo riportato) ti comporta difficoltà, costi, disagi e menomazione della propria salute fisica e psichica.
La domanda finale e conseguenziale è: siamo sicuri che l’uso di questi algoritmi (mentali o tecnologici che siano) è quello che meglio serve alla nostra vita? E non è che questi algoritmi, tali per semplificare e rendere più sicura e immediata la nostra quotidianità, non siano all’altezza dei nostri ritmi e dei nostri desiderata? Non corriamo il pericolo che, per poter vivere in serenità, dobbiamo costringerci ad uniformarci, pena l’emarginazione?
E ultima: è l’essere umano (che voglia restare tale pur in una curva evolutiva) adatto ad un algoritmo, piuttosto che una macchina (una costruzione meccanica senza algoritmo sarebbe oggi un deciso passo negativo)?
Conclusione. Il potere di chi gestisce questi algoritmi (o li “impone” come modelli di semplificazione e risparmio) non può essere regolamentato. Se lo fosse dovremmo vivere, peggio di quanto già non lo sia oggi, in una sorta di società orwelliana. Ma se questo pericolo orwelliano si intravede a livello generale/statale, è innegabile che tanti contesti orwelliani oggi sono parte della nostra quotidianità.
Vincenzo Donvito, presidente Aduc
