Non si fa che parlare delle meraviglie e dei pericoli della AI. C’è chi la vede come soluzione di tutti i mali, chi ha paura che porti alla fine della stessa umanità. Meglio sarebbe comprenderne sia le grandi potenzialità che i rischi reali.
Nel 2014 Elon Musk, il fondatore di Tesla, amministratore di SpaceX, cofondatore di OpenAI (creatore del software ChatGPT che tanto sta facendo parlare di sé) stupì tutti affermando che sviluppare l’intelligenza artificiale fosse “l’equivalente tecnologico di evocare il demonio”. Al tempo, la AI generativa (in grado cioè di produrre da sé testi “originali”, immagini o anche suoni e video) era ancora lontana ed è probabile che il geniale Tycoon stesse facendo solo del marketing cercando di instillarci surrettiziamente l’idea che per controllare la nuova tecnologia ci volevano persone esperte … come lui! Eppure Musk non è il solo a credere che la AI una volta portata ai suoi futuri ma inevitabili sviluppi ci metterà di fronte a enormi rischi. Prenderà il potere, ci ridurrà in servitù, ci trasformerà in sue marionette: ovvero uno scenario già visto in molti film di fantascienza.
Una ipotesi fuorviante
L’avvento di una Super-intelligenza artificiale, che potrebbe sfuggire al controllo dell’essere umano e ribellarsi a esso è in realtà molto improbabile, quasi impossibile. Questo non significa che nello sviluppo e utilizzo della Intelligenza Artificiale non possano esserci pericoli concreti e anche attuali da cui guardarci. Lo sviluppo inarrestabile di questa tecnologia infatti apre sì moltissime opportunità ma nasconde inevitabilmente dei rischi concreti che devono indurci a controllarla, a regolamentarla e anche guardarla in modo critico e consapevole. Prima di tutto dobbiamo chiarire che le attuali forme di AI (e anche quelle “prevedibili” in un prossimo futuro), hanno in realtà Intelligenza Zero. Sono solo macchine statistiche riempite di un numero straboccante di dati e capaci grazie a capacità di calcolo incredibili di cogliere correlazioni tra essi. Non hanno nessuna idea di cosa scrivono o dicono o illustrano né perché. Non hanno idea di cosa sia una correlazione causa-effetto ma soltanto che in milioni di occasioni una cosa è associata a un’altra. Mettono insieme le nuvole e la pioggia ma non hanno cognizione che le prime determinano la seconda: un concetto per loro irraggiungibile. La grande idea dietro la cosiddetta “intelligenza artificiale” infatti è quella di un divorzio, mai tentato prima, tra la capacità di risolvere problemi e l’uso dell’intelligenza per farlo! Non c’è nessuna logica e nessuna comprensione nel risultato ottenuto: la macchina non ha la minima idea di cosa significa quello che scrive o dice) c’è solo l’azione automatica e priva di pensiero di mettere insieme a velocità impensabile, cose che nel database immenso a disposizione (big data) sembrano avere attinenza (statistica) tra loro. Il risultato è, in gran parte dei casi, buono e “sembra” intelligente ma per ottenerlo non è servito nemmeno un grammo di “vera intelligenza”.
Guardare in faccia alla realtà
Ma allora quali possono essere i rischi di uno strumento così prettamente statistico? L’AI è capace di risolvere problemi complessi perché vede correlazioni sondando miliardi di dati come nessuno di noi saprebbe fare, è quindi in grado di sostituire gli esseri umani in aree di lavoro sempre più qualificate, a basso costo e con velocità e produttività enormemente aumentate. Siamo dunque di fronte al pericolo di una “rivoluzione” nel numero e nella qualità dei posti di lavoro vestiti ai semplici “umani”. Ma il problema numero uno dipende dal fatto che non sembriamo preoccuparci di lasciarle sempre più spazio di manovra abdicando al nostro ruolo di controllori del gioco.
Per servircene in modo sempre più diffuso abbiamo addirittura modificato il nostro mondo e il nostro comportamento trasformando la realtà in modo che sia perfettamente adatta ai sistemi di AI. Viviamo in un universo in cui la tecnologia digitale stabilisce i nostri tempi, i nostri comportamenti, ci fa adattare a lei invece che adattarsi a noi. Impieghiamo algoritmi di AI in modo del tutto acritico lasciando che decidano il film che vogliamo vedere, il libro che vogliamo leggere, l’oggetto di cui non possiamo fare a meno, il partito che dovremmo votare. La impieghiamo senza scrupoli in ambiti delicatissimi come la sorveglianza, la sanità, la selezione dei posti di lavoro, l’erogazione di mutui, la decisione del futuro scolastico dei nostri figli e altro ancora. Questa cecità generalizzata nei confronti delle implicazioni reali e attuali di un uso distorto o non regolamentato della IA è irresponsabile.
Dobbiamo occuparci della VERA STUPIDITA’ umana e non della VERA INTELLIGENZA ARTIFICIALE e mettere il potere predittivo della IA al servizio del bene sociale e ambientale, della libertà e dell’autonomia non della manipolazione e del capitale. Dobbiamo svegliarci e decidere in che direzione vogliamo andare prima che a portarci dove vogliono siano coloro che sugli algoritmi fanno i miliardi e sulla manipolazione delle informazioni basano il loro potere.
Algoritmi razzisti e reazionari?
Pensiamo che essendo basati su formule matematiche gli algoritmi di AI siano per questo neutri e oggettivi? Che la statistica non possa essere influenzata né manipolata, ma oggettiva e degna di fiducia? Ebbene ci sbagliamo. “Gli algoritmi sono fatti da esseri umani e collegati tra loro da passaggi logici (una lunga serie di “se… allora”) che derivano da supposizioni umane: i dati di cui si nutrono sono stati immessi da noi e rispecchiano tutte le nostre opinioni, pregiudizi, ideologie. Sono semplicemente automatizzati e “le supposizioni automatizzate” ha detto Alexandria Ocasio Cortezuna politica democratica USA molto attenta alle conseguenze sociali della trasformazione digitale, “portano a pregiudizi automatizzati”.
Risultato: molti algoritmi usati da banche, aziende, scuole, forze di polizia, sono risultati razzisti e sessisti. Hanno discriminato le minoranze etniche, provocato errori giudiziari e arresti di persone innocenti e ovviamente emarginato le donne. Quello che fanno è perpetuare i nostri modi di pensare, impedire il cambiamento perché basati su dati storici intrisi di luoghi comuni, pregiudizi e opinioni stantie. Inoltre gli algoritmi rispondono alle nostre domande: se chiediamo a un algoritmo generatore di testi come ChatGPT di scrivere un numero altissimo di post sui social sostenendo che i Hitler fu il minor leader del ‘900 lo farà (lo ha già fatto). Volete che nel suo database non ci siamo centinaia di miliardi di testi che lo possono sostenere? E quante di queste fake news resteranno impresse? Risulteranno persuasive?
Le profezie statistiche che si auto-avverano
Non solo! Gli algoritmi spesso vengono utilizzati per fare PREVISIONI, ed è allora che ci bruciano il futuro. Sono loro che ad esempio indirizzano gli studenti verso le professioni “più adatte” a loro,valutano il rischio di recidiva di un carcerato o le probabilità di successo di un candidato a un posto di lavoro, o la nostra capacità di pagare un mutuo, o se meritiamo un rene nuovo o una cura costosa. Questi strumenti decidono in base a calcoli a noi oscuri, abbinando dati che vengono inevitabilmente da ciò che è stato in passato e finiscono con l’essere “reazionari” perché non possono che basare le proprie decisioni su quanto è già stato. E il passato è fatto in gran parte di discriminazione e pregiudizio per molta parte dell’umanità. Le previsioni che ne derivano portano inevitabilmente a una serie di conseguenze: il sapere che la macchina ci ritiene avviati a un certo futuro mette in moto comportamenti che alla fine portano all’avverarsi della predizione stessa. Pensate a un bambino nato in un quartiere disagiato da una famiglia povera: l’algoritmo basandosi “su molti dati del passato” (che qualcuno avrà inserito e collegato con tanti “se…allora”) stabilirà che per lui sarà meglio cercarsi un lavoro che andare all’università. Forti di questa “matematica e oggettiva predizione” i genitori lo avvieranno verso scuole tecniche nonostante il piccolo sia un giovane Einstein, la scuola agirà di conseguenza e si metteranno in moto eventi che alla fine produrranno il risultato previsto rubando a un bambino il suo futuro e alla società una mente eccelsa.
Un enorme problema etico
In conclusione l’uso acritico dell’AI, la mancanza di regole rischia di negarci la libertà di azione e la possibilità di cambiare il nostro destino perché risulta “già scritto” dal calcolo delle probabilità. Non dobbiamo dare agli algoritmi una fiducia cieca permettendo loro di incanalare il nostro comportamento determinando la nostra vita e intrappolandoci nello status quo. Il vero pericolo della AI non è l’avvento di una macchina super-intelligente che dirigerà la nostra vita ma la nostra irrazionale attitudine di lasciare già ora che macchine assolutamente stupide la controllino e la determinino.
Nicoletta Salvatori