Quando l’IA ci sfuggirà di mano: gli intellettuali liberi e gli usi militari contro i palestinesi, una minaccia per il futuro dell’essere umano

La situazione diventerà delirante il giorno in cui l’IA ci supererà nel creare software IA (M. Menson)

L’intelligenza artificiale (IA) può sfuggirci di mano, e questo rappresenta un pericolo estremamente serio per il futuro umano. Rendendosi autonoma dai propri creatori, può svilupparsi fuori dal loro controllo, in una specie di indipendenza ipertecnologica propria, acquisibile in un futuro per niente lontano. Potrebbe raggiungere, in due-tre decenni, un’intelligenza algoritmica superiore a quella umana, in modo tale da fare e amano di noi, e addirittura in grado di contrapporsi a noi. A quel punto saremmo di fronte all’inedito rischio di sopravvivenza della nostra stessa specie.

Proprio in questi giorni si riunisce in Vaticano un gruppo di lavoro per approfondire questi temi, cui parteciperanno i maggiori specialisti del mondo. Con ciò Papa Leone XIV tiene fede all’impegno, annunciato poco dopo la sua elezione, di volersi occupare a fondo di tutte le implicazioni dell’IA.

Al meeting prende parte Geoffrey Hinton, ritenuto il padre dell’IA e per questo vincitore del premio Nobel. In una lunga intervista, comparsa sul Corriere della Sera, egli esprime le sue profonde preoccupazioni. Afferma senza mezzi termini: “La maggior parte dei principali ricercatori di intelligenza artificiale ritiene che molto probabilmente creeremo esseri molto più intelligenti di noi entro i prossimi 20 anni. La mia più grande preoccupazione è che questi esseri digitali superintelligenti semplicemente ci sostituiranno. Non avranno bisogno di noi. E poiché sono digitali, saranno anche immortali: voglio dire che sarà possibile far risorgere una certa intelligenza artificiale con tutte le sue credenze e ricordi. Al momento siamo ancora in grado di controllare quello che accade, ma se ci sarà mai una competizione evolutiva tra intelligenze artificiali, penso che la specie umana sarà solo un ricordo del passato”.

Quando l’intervistatore Riccardo Luna, che è il coordinatore del gruppo di lavoro in Vaticano, gli fa presente che i sogni iniziali della rivoluzione digitale erano quelli di un mondo più giusto per tutti, Hinton risponde: “Non sono sicuro che fosse il sogno di tutti. Credo che, per la maggior parte delle persone coinvolte, il sogno fosse diventare ricchi. Ma potevano convincersi che sì, si sarebbero arricchiti, ma allo stesso tempo avrebbero aiutato tutti. (…) Il problema è quando la ricchezza e il potere vengono usati per eliminare le regole, così da fare profitti che danneggiano le persone”. E aggiunge: “La cosa che sembra importare loro di più è non pagare le tasse. E sostengono Trump perché abbassa le tasse: questa è la loro spinta primaria. Ma vogliono anche eliminare le regole che proteggono le persone per rendere più facile fare affari. Per questo assecondano Trump”.

A proposito di regole, come l’AI Act approvato dall’Ue, lo scienziato sostiene: “Credo che sia un punto di partenza accettabile, ma ci sono parti che non mi piacciono: ad esempio, c’è una clausola che dice che nessuna di queste regole si applica agli usi militari dell’IA. Questo perché diversi Paesi europei sono grandi produttori di armi e vogliono sviluppare sistemi letali e autonomi”. L’impiego militare dell’IA è già oggi, largamente, un dato di fatto. Viene usata su vasta scala, in innumerevoli applicazioni belliche, sia in Ucraina sia in Israele. Da parte dello Stato sionista è utilizzata pure per “censire” i palestinesi tramite dati biometrici: si tratta, in pratica, di una schedatura elettronica capillare, con la quale di ogni palestinese viene annotato tutto, non solo i tratti somatici, ma i comportamenti, le tendenze, le frequentazioni ecc., in modo da prevedere il grado di pericolosità di ogni individuo, in vista di una eliminazione selettiva al di là della carneficina generalizzata.

Per Hinton l’IA “è un punto di svolta. Per la prima volta stiamo creando entità che possono essere più intelligenti di noi. Non è mai successo prima. Abbiamo creato macchine più forti, più veloci, ma mai più intelligenti. Questo cambia tutto”. Perciò, conclude, “serve un movimento globale, non solo poche voci isolate. Dobbiamo creare un consenso ampio nella comunità scientifica, altrimenti i politici ci ignoreranno”. Va da sé che è necessario creare un movimento globale, oltre che fra gli scienziati, soprattutto fra i cittadini, rendendoli consapevoli che l’IA, se non regolata, oltre a certi benefici per esempio in campo medico, può generare rischi irreparabili. Questo è il compito degli intellettuali davvero liberi, e delle forze politiche e sociali autenticamente dedite al bene comune.