Secondo Elon Musk, tra poco l’Intelligenza Artificiale supererà quella umana. Il fondatore di Tesla e di SpaceX ha dichiarato che l’AI supererà presto quella umana, forse addirittura nel giro di cinque anni. Siccome non è una persona qualsiasi e questa eventualità è stata espressa da più parti, è giusto interrogarsi sulle conseguenze di questo scenario. Per altri esperti questo fatidico momento si verificherà più in là nel tempo, tra 20-30 anni. In ogni caso succederà.

Le istituzioni europee da tempo studiano questa nuova realtà tecnologica, ben coscienti che l’Intelligenza Artificiale può comportare diversi rischi nel settore militare e civile, con potenziali discriminazioni, opacità decisionali, intrusioni nella privacy e usi per scopi criminali. Da più parti si chiede di regolamentare le enormi capacità che questo strumento già ricopre nella nostra vita. L’Unione Europea si impegna a tenere testa a questo sviluppo travolgente con leggi adeguate, mentre la corsa di Stati Uniti e Cina prosegue velocissima e, possiamo dirlo, con minori preoccupazioni morali e politiche.

Quando l’Intelligenza Artificiale supererà quella umana, dovremo essere pronti sotto l’aspetto etico, giuridico, politico: dovremo provvedere, ancora una volta, con quello che la macchina non sa e forse non saprà mai fare.

L’AI è un dato di fatto della nostra esistenza, anche se molti non se ne accorgono. Ce ne accorgiamo quando le cose non funzionano bene. Ma anche in questi casi offre spunti per una riflessione.

Faccio l’esempio dell’AI chiamata a mettere i voti della maturità nelle scuole britanniche nell’agosto del 2020, a causa dell’emergenza Covid-19. Gli esami sono stati annullati e per stabilire i voti è stato utilizzato un complesso algoritmo. Buona parte degli studenti ha protestato contro l’eccessiva severità del software, anche perché un voto troppo basso impedisce un’eventuale iscrizione all’università. La protesta si è dilatata, con gli studenti in piazza e cartelli contro il governo.

Quasi il 40% dei voti stabiliti dal software è risultato inferiore alle proiezioni fatte dai loro docenti per ciascuno studente, in particolare nelle scuole statali e nelle aree disagiate. Questo però non è accaduto nelle scuole d’élite, dove la stima e il risultato finale combaciavano. Scozia e Irlanda del Nord hanno immediatamente preso le distanze dell’algoritmo e hanno detto che avrebbero usato i voti dei professori. Alla fine, sotto la pressione della protesta generale, il governo britannico ha fatto marcia indietro su tutto il territorio nazionale e ritenuto validi i giudizi dei docenti.

Per alcuni, le previsioni dei professori erano troppo ottimistiche. Per altri, l’algoritmo era troppo severo e condizionato da pregiudizi legati al tipo di scuola e al territorio.

Possiamo dire di essere di fronte a un caso emblematico. Lavorare sull’imitazione delle decisioni umane non è facile. Ma non dobbiamo dimenticare che a creare gli algoritmi sono gli uomini. Per quanto possa trattarsi di un lavoro accurato e complesso, è difficile essere neutri ed è importante usare adeguati criteri di correzione. Bisogna essere sofisticati e intelligenti per creare un algoritmo all’altezza di quanto viene richiesto. Ma anche se l’algoritmo imita decisioni umane, umano non è.