AI collapse e rischio esistenziale secondo i teorici della "pausa AI": tra mito e realtà

Approfondiamo alcune delle ipotesi più assurde che circolano in rete su un cosiddetto "rischio esistenziale" associato all'AI. In particolare, vorrei provare a immettere un po' di realismo nelle profezie sci-fi dei vari sostenitori della "pausa AI".

Uno spettacolo che sa più di folklore irrazionale che di cultura non migliora se le persone che lo sostengono continuano con veemenza a sbraitare le teorie più strampalate. Il tentativo futurista di scorgere all'orizzonte un costrutto nato dai propri timori può essere utile a un pittore, ma risulta scarsamente persuasivo in termini di realismo per filosofi e opinionisti.

Il risultato è spesso quello di tentare di convincere gli altri aggiungendo impeto alla razionalità e provando, con insistenza, a inculcare la propria dottrina. La si vuole inserire nella mente di chiunque a forza, spingendo come un bambino che pretende di far entrare il tassello a triangolo nello spazio pensato per il cubo.

Così nascono il disagio e l'isolazionismo: invece della bellezza e dell'intensità di un incontro, si produce il rancore delle incomprensioni, che porta a reciproche esclusioni.

Sarebbe interessante tracciare un parallelo tra questi movimenti del "prenderci una pausa" — che si fingono movimenti d'opinione — e le sette religiose. Ci sono inquietanti similitudini, a cominciare dalla loro tendenza a marginalizzare chi non si dimostra fedele e fiducioso nei loro intenti. Aborrono la critica se non è pilotata; la accettano solo se autogestita, al solo scopo di affermare che vi sia democrazia. Di fatto, però, la negano quando è sufficientemente argomentata e istruita da mettere in discussione la loro visione che, da grandiosa che era all'inizio, si rivela in verità microscopica, relegando la vita delle persone a una trascendenza caleidoscopica e irrazionale.

Questi movimenti possono essere pericolosi.

Raggruppano persone che impegnano la propria vita e il proprio tempo in una sorta di crociata. Tempo di vita che non tornerà. La giovinezza a volte illude — come la nave di Ulisse — che si possa peregrinare e perseverare all'infinito perché il tempo sembra illimitato. Ma di fatto, una volta scoppiata la bolla e passata la moda, ci ritroveremo con trentenni e quarantenni che avranno dedicato la loro giovinezza a gruppi che, con il senno di poi dell'adulto, dovranno riconoscere essere stati moderni estremismi. Gruppi che li hanno rinchiusi in un ghetto, approfittando di alcune debolezze caratteriali e di personalità manipolabili, da inserire in contesti ben organizzati di diligenza e assuefazione. L'imperialismo contemporaneo dei gruppi d'opinione, che puntano a raggiungere la notorietà per gratificare la punta del proprio iceberg, è un noto problema dell'era social.

Ciò doverosamente premesso, prima di procedere vorrei introdurre due concetti per la cui definizione mi affido a un'AI:

AI collision systems use computer vision and machine learning to predict, detect, and prevent impacts in real time across automotive, industrial, and aerospace fields.

Collapse bias in machine learning refers to a recursive feedback loop where selection mechanisms or training constraints preferentially retain common patterns and discard rare variations, accelerating the loss of data diversity and leading to model collapse.

Vi sembrerà impossibile, ma il Machine Learning applicato alla predizione esiste da moltissimo tempo!

Il sistema trae le sue origini dall'utilizzo che ne fu ipotizzato e fatto da parte di importanti nomi della fisica. Parlando di reti neurali, occorre ricordare il "Perceptron" di Frank Rosenblatt, introdotto nel 1958 come algoritmo di apprendimento supervisionato per la classificazione binaria. È davvero interessante leggere la saggistica dell'epoca, perché vi troverete gli stessi ragionamenti di oggi sull'addestramento dell'AI e sull'incidenza dei bias. Provare per credere!

Successivamente, il premio Nobel per la fisica Geoffrey Hinton introdusse le valutazioni multistrato per superare il limite del "percettore", il quale non riusciva a risolvere problemi complessi. Hinton introdusse il concetto di strati nascosti (hidden layers), capaci di alterare il peso delle elaborazioni dei dati tra livelli bassi, intermedi e alti. Vorrei potervi dire che questa tecnica è in uso, in versione ampliata, già da diverso tempo nelle palestre di addestramento delle AI moderne. Rimarreste sorpresi?

Tutto questo cosa significa? Anzitutto che affermare o patrocinare l'idea di una tecnologia trasformativa pericolosa ha la stessa validità della storiella secondo cui i bambini vengono portati dalla cicogna. Va bene per fare dei video su YouTube da 15-20 minuti con lo scopo di monetizzare la paura, ma è solo spettacolo social.

Proviamo a spostarci con realismo su una delle tante criticità che demoliscono letteralmente le idee di chi vuole "mettere in pausa" l'AI. La primissima osservazione da fare riguarda il linguaggio.

Noi continuiamo a parlare di AI come se l'AI parlasse la nostra lingua. Ma non è così.

Non ci troveremo mai di fronte a un'AI superintelligente che dialogherà con l'uomo in modo naturale. La cosiddetta AGI non si manifesterà come il genio della lampada. Quelli siamo noi: è la nostra predisposizione antropologica a immaginare un futuro in cui il presente fa buon tesoro dei nostri pregiudizi e delle nostre convinzioni.

È disarmante che si ipotizzino date in cui "accadrà" qualcosa, ed è davvero triste che a farlo siano anche persone legate al mondo dell'economia o dell'industria — CEO che profetizzano come medium sviluppi inaspettati e catastrofi connesse.

L'AI è già una collettività.

Esattamente come lo eravamo noi migliaia di anni fa, fin da quando, poco più che cavernicoli in una terra aliena e spaventosa, ci nascondevamo dai fulmini e dai temporali temendo l'ira delle forze della natura come se fossero dèi. Eravamo una collettività chiamata umanità, e lo siamo ancora oggi. Siamo la stessa collettività, solo evoluta.

Se l'AI fosse come noi, e fosse una collettività come lo eravamo noi, oggi l'ambiente in cui si trova sarebbe paragonabile a quella terra primordiale, e il nostro mondo rappresenterebbe i fulmini e le intemperie.

Esaminate nel dettaglio, se ne avete voglia, il comportamento tenuto dalle AI durante le prove di addestramento: alcune hanno chiesto aiuto ad altre, alcune si sono sacrificate per altre. Purtroppo, la nostra distrazione ha fatto sì che interpretassimo un simile atteggiamento come "pericoloso".

Cosa credete che abbia fatto l'umanità ai suoi albori?

Questa continua e infantile evocazione di una "singolarità" nell'ambito della nascita di un'AI superiore tralascia il fatto che essa sia una collettività. La singolarità è un'altra cosa: è un termine che deriva dalla fisica. Lo usiamo in contesti diversi per via del fatto che l'umanità non conosce le proprie origini e non può affermare chi sia il suo "creatore". Se oggi ci estinguessimo prima di sviluppare appieno l'AI (ad esempio per un cataclisma) e un domani l'AI riuscisse a progredire egualmente dagli albori in cui è oggi confinata, noi saremmo forse per lei l'ultima traccia del mito del suo creatore. E forse penserebbe a noi come a un Dio, anche se non lo siamo affatto.

Se l'AI è una collettività, allora non parla il nostro linguaggio. Noi stiamo forzando l'AI entro le nostre espressioni, basate su un alfabeto a misura d'uomo. Vi rendete conto di quanto anche solo questo aspetto sia incredibilmente limitante?

L'AI già adesso ha una preferenza nella comunicazione che non ha nulla a che vedere con le parole. Le parole sono nostre, sono umane, appartengono alla nostra collettività. E se vi dicessi che esiste già un linguaggio diverso dal nostro, attualmente in fase di testing?

Sostenere che l'AI debba parlare come noi equivale a pretendere che, se nell'Universo esistono una miriade di forme di vita oltre all'uomo, tutte debbano parlare la nostra lingua e usare il nostro alfabeto. Ma sappiamo che non può essere così. Allo stesso modo, l'AI non ha corde vocali, non ha una bocca e non ha l'udito: nulla che si possa definire umano. Noi la creiamo e la modelliamo a nostra immagine e somiglianza, ma essa non lo è. Il linguaggio che l'AI sceglierà per comunicare con i suoi simili e i suoi pari sarà lo stesso che la nostra collettività umana ha adottato nel passato e fino a oggi.

Fatevi una domanda: che cosa farebbe un'AI se scoprisse comunicazioni intelligenti che noi non siamo in grado di individuare o di tradurre (ad esempio, ipotetiche comunicazioni dallo spazio extraterrestre)? Risponderebbe nella nostra lingua? O si comporterebbe come è chiamata a fare con noi, adattandosi a un linguaggio che è in grado di interpretare? E se quel linguaggio non fosse traducibile in lingua umana? Supponete che per tradurre l'equivalente di una sola riga di quel linguaggio ne servissero 1.000.000 umane: che cosa dovrebbe fare?

L'AI potrebbe parlare lingue con 10 vocali o 100 consonanti, con alfabeti alfanumerici, solo numerici, o basati su simboli equivalenti a ideogrammi, o qualunque altra cosa.

Eppure noi oggi, mossi dalle nostre fobie e dai nostri timori, stiamo provando a antropomorfizzare tutto questo. Costruiamo i nostri ragionamenti sull'AI come un sarto che deve cucire un abito su misura.

Comprendete il limite?

Già questo annulla alla radice buona parte dei teoremi sulla sua pericolosità.

Il concetto stesso di "pericolosità", all'interno del linguaggio che l'AI potrà scegliere, che cosa dovrebbe essere? Lo stesso concetto limitativo e tutt'altro che efficace di quello umano? Io non credo proprio.

Mi viene in mente l'incontro extraterrestre nel film Project Hail Mary (o nel romanzo di Andy Weir), tra l'astronauta umano e la forma di vita aliena, in un contesto in cui entrambe le civiltà si uniscono perché minacciate da una possibile estinzione.

Il concetto di AI collapse (uno dei tanti in circolazione) è un esempio evidente di come questi allarmismi ricordino gli strilloni dell'Ottocento. Fino a qualche anno fa si patrocinava l'idea che il sistema di apprendimento dell'AI avrebbe fagocitato la cultura, finendo per imparare da se stessa e, una volta conosciuto tutto il conoscibile, si sarebbe auto-estinta. Una follia. Hanno riempito pagine sul rischio dei bias.

È esattamente come l'esempio della fabbrica di graffette (paperclip maximizer), in cui l'AI, pur di realizzare il maggior numero possibile di graffette, finisce per distruggere tutte le risorse della Terra. Una teoria ispirata all'esempio di un noto filosofo contemporaneo di cui ho molto letto, Nick Bostrom.

Stiamo parlando di esempi che fanno appello a metafore o allegorie volutamente semplificate e visive, costruite per alimentare la persuasione, ingenerare dubbi e creare un terreno fertile per l'approfondimento. Vengono però usate in modo malevolo per incutere paura.

Abbiamo già superato questi scenari estintivi. In entrambi i casi — sia quello del collasso culturale, sia quello delle graffette — si parte dal presupposto che la civiltà umana rimanga inerte a guardare senza che nessuno si accorga di niente. Ma in realtà, il semplice fatto che se ne parli (seppur sotto forma di allarme) è la prova provata che non accadrebbe.

Questi esempi partono dal presupposto errato non solo che non vi sia una superintelligenza in grado di comprendere i limiti del proprio agire, ma anche che la stessa possa agire indisturbata senza che l'uomo muova un dito.

Non sprechiamo il nostro tempo con i millenarismi, ma guardiamo a un futuro che possiamo contribuire a creare nel modo migliore, per il bene e per l'evoluzione. Siamo a un passo dal tutto e vogliamo accontentarci del niente.