Ospitiamo un dialogo Federico Leoni, uno dei nostri soci fondatori, filosofo e docente di Etica critica all’Università di Verona, e Giuseppe Longo, matematico e informatico, già docente all’École normale supérieure di Parigi, autore tra l’altro di L’empire numérique (con Jean Lassègue, PUF, Paris 2025).
Federico Leoni: Da un po’ di tempo coltivavo il progetto di discutere con te dell’enciclica che il Papa ha pubblicato recentemente, Magnifica Humanitas. Tanti ne hanno parlato come dell’enciclica dedicata all’intelligenza artificiale, ed è il motivo per cui ho subito pensato che sarebbe stato bello parlarne con te, che sei un matematico, un informatico e un epistemologo di grande originalità e autorevolezza. L’osservazione da cui partirei però è un’altra, e cioè che le ampie considerazioni che l’Enciclica dedica all’intelligenza artificiale sono inserite in un’ancor più ampia cornice che è espressamente politica. Del resto, il riferimento alla Rerum novarum ci mette già su questa strada. D’altra parte, la nuova enciclica non propone solo una ricognizione sullo stato della politica contemporanea, o magari della geopolitica contemporanea, a cui poi seguirebbe quell’approfondimento sull’intelligenza artificiale di cui tanti hanno parlato. È proprio il tema dell’intelligenza artificiale che viene affrontato come problema politico e geopolitico, mostrando con molta forza che l’intelligenza artificiale porta in sé qualcosa di profondamente solidale con tutto un insieme di altri sconvolgimenti del nostro mondo: il dissolversi degli stati nazione, il diffondersi di sperequazioni economiche sempre più gravi, l’accentramento di potere tecnologico e potere economico nelle mani di soggetti che un tempo si sarebbero chiamati privati, e che oggi diventa persino fuorviante chiamare così, se è vero che ne dipendono interi stati, vasti settori dell’economia mondiale, infiniti aspetti della nostra vita quotidiana.
Giuseppe Longo: Mi piacerebbe in primo luogo connettere questa enciclica a quella di Papa Francesco, Laudato si’. Entrambe sono dedicate a condizioni ecosistemiche e di vita, profondamente modificate dalle tecnoscienze contemporanee. Laudato si’ inizia con un riferimento a San Francesco, del quale mette in evidenza il rapporto originale, per l’epoca, alla natura. San Francesco è un rivoluzionario e, come tanti, rischierà di andare sul rogo o di esser fatto santo. San Francesco si rivolge alla natura in quanto tale, perché in essa cerca Dio. Papa Francesco tende la mano a San Francesco per riproporre un rapporto alla natura di convivenza, attenzione, conoscenza. Il contrario di quel che accade oggi. Con tecniche potentissime sappiamo estrarre petrolio a 8.000 metri di profondità. Così in due secoli abbiamo modificato mari e monti senza possedere un quadro scientifico che ci permettesse di capire cosa stesse avvenendo all’ecosistema. Solo da pochi decenni ci si pone il problema e, malgrado l’impegno dell’ONU, malgrado l’impegno del GIEC, la politica rimane indifferente. Si arriva ad eleggere un presidente il cui slogan è “drill, baby, drill”. Laudato si’ è di gran lunga il testo più lucido e documentato che sia stato scritto da un capo di stato per denunciare il fatto che stiamo andando a passi da gigante verso un mondo invivibile. Magnifica Humanitas parla di un’altra forma di estrattivismo, originato dalle scienze contemporanee ma contrassegnato da una sempre minore consapevolezza scientifica. Parlo dell’estrattivismo cognitivo dell’IA. È un modello nato da una scienza del digitale, fondata da Alan Turing nel 1936, poi evolutosi in una quantità di tecniche che si considerano ormai senza limiti e che danno vita a vere e proprie mitologie che nascondono completamente i principi su cui si fonda quel modello. Mi spiego: la macchina digitale è una macchina imperativa. I linguaggi di programmazione, anche quelli cosiddetti “dichiarativi”, o quelli “orientati a oggetti”, come Phyton che è tanto usato in IA, si riducono sempre a dei sistemi di riscrittura basati su degli ordini. Ovvero, il sistema operativo di un computer è sempre imperativo: “rimpiazza 001 con 011”, “cambia lo stato di quel pixel”. È questa l’episteme profonda che il mondo dell’IA condivide con un Presidente americano che pretende di gestire il mondo tramite i suoi “excutive orders”. Poi ci viene raccontato che, cumulando ordini su ordini, la macchina potrà far meglio della cognizione animale. Ma naturalmente è una mitologia, la cognizione animale non ricombina il passato, semmai anticipa il futuro.
Giuseppe Longo: Quando dico che la cognizione animale non ricombina affatto il passato, intendo dire che noi ci muoviamo, guidiamo un’auto, e in effetti pensiamo sempre ed esattamente nel modo in cui andiamo a caccia, cioè anticipando tutto quel che si muove, anticipando un futuro sempre differente. È la magia della cognizione animale. Mentre la macchina digitale itera le sue operazioni sempre in modo identico. Una simulazione numerica della più selvaggia delle turbolenze, per esempio di un immenso uragano, se si pigia su “restart” reitera la dinamica in modo identico. È un’assurdità dal punto di vista della fisica, ma è il modo in cui funziona l’informatica. Per questo, in IA, vengono introdotti piccoli stratagemmi, come l’uso dell’aleatorio di rete (il pari o dispari della temperatura a Milano alle 12) per simulare la “creatività” (sic!): così la macchina non risponde allo stesso prompt in modo sempre identico – sceglie “a caso” fra due o più risposte possibili. Tutto questo si basa sulla disponibilità di immense basi di dati, da cui estrarre conoscenze e controllare i nostri contesti di vita, noi per ora a fini solo commerciali, altri, come i Cinesi ma ormai anche gli americani, anche a fini politici.
Federico Leoni: È come dire che le domande che la Magnifica humanitas solleva non sono le domande astratte, consapevolmente o inconsapevolmente addomesticate, che infestano il dibattito pubblico. Come se alla solita domanda che chiede se l’intelligenza artificiale è davvero intelligente oppure no, l’enciclica rispondesse che lo è senz’altro, che l’intelligenza artificiale contiene senz’altro del pensiero, o promuove senz’altro del pensiero, come del resto ogni strumento che l’umanità abbia mai inventato. E che proprio per questo la questione che dobbiamo porci è semmai un’altra, e cioè a chi appartiene quell’intelligenza, che tipo di conseguenze comporta quell’intelligenza, in che modo quel tipo di intelligenza che chiamiamo artificiale intercetta la nostra intelligenza cosiddetta naturale, in che modo la trascina nella sua direzione, la sottomette ai suoi scopi, la plasma a sua immagine e somiglianza. Credo che dobbiamo ripartire da qui, cioè dall’idea che nel momento in cui l’intelligenza artificiale diventa il medium in cui tutte le nostre pratiche pubbliche e private vengono tradotte e vengono amministrate, sono le nostre vite che finiscono in mano a quei soggetti che detengono le chiavi dell’intelligenza artificiale. A quei soggetti, e ai modi di funzionamento di quell’intelligenza artificiale che come tu sottolinei hanno una loro specifica logica, una loro specifica modalità di riformulazione di ciò che vi introduciamo. Una modalità direi che travalica persino le intenzioni, chiamiamole così, dei loro padroni, cosa che già notava a suo modo e in tutt’altro contesto Marx.
Giuseppe Longo: Aggiungo che a guidare lo sviluppo tecnico sono sempre le stesse cose, la spinta alla guerra e la spinta al controllo, della cognizione umana, l’IA, e del vivente: dando ordini (modificando il DNA) guidiamo il vivente nell’ecosistema – la catastrofe degli OGM. Ma naturalmente siamo di fronte a un dibattito che nasconde i principi costitutivi della tecnica di cui parliamo: la coppia ordini e iterazione. Il risultato è che la frustrazione di chi lavora (“fra poco vi rimpiazzeremo con delle macchine”) sostituisce quella che potrebbe essere l’ambizione di costruire interfacce per la liberazione del lavoro, o per la riqualificazione del lavoro. Diverse organizzazioni, come Epokhé, che conosco più direttamente, cercano di integrare il mondo digitale al lavoro umano e al pensiero umano, mettendo in campo competenze tecniche e facendo piazza pulita delle mitologie, nel tentativo di ridistribuire e riqualificare il lavoro. L’UNESCO ha un bel progetto a riguardo, si chiama Software Heritage. La speranza dovrebbe essere quella di strappare l’intelligenza artificiale alle mani di quei pochi enormi oligopoli che attualmente la detengono, mascherandone fatalmente i principi costitutivi, orientandoli al controllo ed alla guerra, e plasmando questo strumento tecnoscientifico in una direzione che è tutta politica, basata su scelte democratiche. Come tu dicevi, che il problema sia tutto politico è appunto ciò che il Papa sottolinea con tutta l’urgenza del caso.
