L’intelligenza artificiale, Gesù Cristo e Volere la Luna

La sede di Volere La Luna è bellissima. Nata accanto alla mitica sezione 39 del PCI e costruita ristrutturando con materiali ecologici al 100% (sughero, paglia etc.) un vecchio magazzino grazie al superbonus al 110%, resa energeticamente autosufficiente, si affaccia su corso Appio Claudio a Torino offrendosi alla città con una vigna e rigogliosi orti. L’ho visitata grazie alla redazione del blog, quando fui invitato a cercare di spiegare a chi fosse interessato i miei poco chiari pensieri sull’intelligenza artificiale e le criptovalute, pubblicati qualche giorno prima, dopo un gran numero di discussioni e di rifacimenti. Trovai una sala riunioni grande e molto luminosa, con un angolo dedicato alla regia e alla registrazione degli eventi. Sulle pareti, un vasto repertorio di manifesti di lotta nelle scuole e nelle fabbriche del ‘68 e degli anni seguenti. Affascinato, dopo aver brandito il telefonino, mi dedicai a far foto a tutto quello che spiccava intorno a me. Eccone un estratto.

Qualche giorno dopo, a casa, mi diedi a integrare con alcune delle nuove foto un esperimento che sto conducendo da tempo: sottoporre a due dei campioni del momento di intelligenza artificiale, Gemini di Google e Copilot di Microsoft, alcuni prodotti dell’ingegno umano, a cominciare da immagini e da poesie, per vedere l’interpretazione che ne viene data. L’idea in realtà, non è mia ma di un’amica, che ha in mente una bella e originale iniziativa nel campo dell’arte che al momento non posso svelare, ma su cui mi riprometto di scrivere quando sarà realtà. Per scaldare i motori iniziai con alcune mie foto e delle poesie (una delle quali, drammatica nella sua desolata crudezza, del mio amico poeta Antonio Catalano[1]), e un paio di manifesti di Volere La Luna. Se qualcuno è interessato può vedere i risultati che sto via via accumulando, dando un’occhiata a questo documento: Come le IA interpretano le immagini e le poesie.

L’impressione che ne sto ricavando è che le IA differiscono parecchio nei risultati che producono. Come si vede dai risultati, Copilot sembra stare più sulle generali, si mantiene, diciamo così, dalla parte della ragione, mentre Gemini sembra un ingegnere: analitica all’eccesso, produce la sua risposta per punti, ma l’eccesso di pignolaggine la porta qualche volta a clamorosi svarioni. Un’ansia di prestazione, dovuta credo alla concorrenza di Copilot e delle altre di un mercato sempre più affollato, che a volte la spinge a figuracce assai imbarazzanti, come un innamorato che debba dimostrare al primo incontro quanto sia virile alla sua bella. È di questi giorni il meme che circola in Internet sul consiglio dato da Gemini a chi chiedeva come evitare che la mozzarella sulla pizza scivoli via. Usa la colla, è stata l’impeccabile risposta. L’effetto, invece di rendere più stabile la mozzarella sulla pizza, è stato di suscitare una marea di risate e commenti maligni sul web.

Ma torniamo a bomba, anzi al bombarolo: uno dei manifesti esposti sulle pareti di Volere la Luna rappresenta un giovane dal volto emaciato, dai lunghi capelli incolti e dalla barba. Il testo parla di un ricercato, Gesù Cristo, pericoloso, senza fissa dimora, anarchico e comunista, che frequenta quartieri poveri, dove si intrattiene con operai e prostitute, sobilla il popolo e pratica la medicina abusivamente. Questo il manifesto in questione. Per me è, oltre che un ricordo del ‘68, un campione interessante per valutare le capacità analitiche delle IA: una foto di un manifesto (due livelli da distinguere) che contiene un’immagine di una persona con delle scritte (che vanno lette anche se sono immerse nella grafica complessiva del manifesto), e ovviamente una vasta letteratura in rete sulla persona rappresentata nel manifesto stesso, a cui la IA ha già sicuramente attinto durante il suo apprendimento. Inoltre, livelli diversi di significato, giocati sull’ironia e sul sarcasmo.

Come al solito Copilot risponde in modo generico: «Il manifesto presenta un ritratto stilizzato a stencil di un uomo con lunghi capelli e una barba al centro. Sotto il ritratto c’è del testo in italiano, che sembra descrivere l’individuo come anarchico, comunista ed esistenzialista, considerato pericoloso etc. etc». Vale la pena qui di notare almeno due cose: la prima è che la nostra IA non si vuole esporre con il nome del pericoloso anarchico ritratto, anche se scritto ben chiaro, e la seconda che per Copilot gli esistenzialisti sono equivalenti a pericolosi comunisti e temibili anarchici. Ma transeat, anche se è indicativo di un certo comune buon senso tipico di come la destra è solita generalizzare.

Veniamo invece alla risposta di Gemini, che riproduco sotto per la sua parte più significativa (la risposta completa è disponibile nel documento): «L’’immagine del manifesto di “Ricercato” di Gesù Cristo è un potente simbolo della persecuzione che Gesù ha subito durante la sua vita. Il manifesto presenta Gesù come una minaccia per l’ordine stabilito e lo dipinge come un pericoloso sovversivo. Tuttavia, è importante ricordare che le accuse contenute nel manifesto sono false. Gesù non era un rivoluzionario o un anarchico. Era un insegnante di pace e di amore che predicava il messaggio del regno di Dio. Il manifesto è un prodotto della propaganda romana, che cercava di screditare Gesù e di giustificare la sua crocifissione».

In sintesi la nostra IA non è riuscita a capire il periodo storico in cui il manifesto nasce. Lo ha considerato un prodotto dei servizi di propaganda di Tiberio, invece che della cultura del ‘68. Il campione sottoposto ad analisi non è un papiro, una tavoletta di cera, un reperto fittile o una lapide. Non è nemmeno di questi una riproduzione moderna. Ma per Gemini non è importante. Tantomeno ha discriminato la tecnologia di produzione, la lingua, la forma del testo e dei caratteri usati, anche se ha capito le scritte in italiano. Abituata alla Internet Research Agency di Putin e alla NSA americana, va dritta al punto che le suggerisce la cultura con cui è stata addestrata: giudica molto probabile che il manifesto sia un parto di un ufficio di disinformacija al servizio dell’Impero Romano. Il tutto è espresso analiticamente e con grande dettaglio. Dettaglio che si rivela inutile e pericoloso: non è un valido strumento critico, non rappresenta un valore aggiunto fornito a chi si sta informando, anzi, lo inganna, per una certa precisione ingegneresca che in qualche modo valida l’interpretazione rendendola fintamente autorevole.

Un altro aspetto interessante è la produzione logica che è la trama della risposta: qui si dice che Gesù è un delinquente, ma siccome è verità che sia il massimo portatore dell’amore sulla terra, allora si tratta di menzogne espresse dai malvagi che lo dicono. Un’affermazione del tutto ideologica, degna di un ayatollah iraniano (o di un ministro dell’agricoltura italiano). Pericolosissima, secondo me, specie nel momento in cui questa tecnologia assume un ruolo dominante nella comunicazione di massa: lo ha detto l’Intelligenza Artificiale!, recita la solfa del politico tecnosciovinista, tristemente simile al sinistro e ben noto io ho solo obbedito agli ordini. Gemini insomma ha preso la cosa alla lettera: non ha assolutamente colto il vero portato di ironia e di sarcasmo del messaggio, che è la prima cosa che salta agli occhi di un uomo. Certo il messaggio era complesso, ma dove dovremmo stabilire il limite di complessità di un messaggio per stabilire che le risposte di una IA sono affidabili?

Un paio di giorni prima avevo fatto interpretare dalle nostre IA la poesia di Catalano. Questa è stata interpretata da Gemini in modo impeccabile (come converrà chi avrà la pazienza di leggere i risultati dell’esperimento), anche se in inglese (chissà poi perché), lasciandomi senza parole per la sorpresa. Forse si può dire che Gemini è come un pilota d’aereo che sbaglia un atterraggio ogni tanto. Un pilota insicuro con i finestrini della cabina oscurati che segue con troppa ansia e nervosismo sugli strumenti di bordo il sentiero di discesa che porta alla pista, e ogni tanto va fuori per colpa dei movimenti eccessivi che imprime alla cloche. Il punto però è che gli atterraggi devono essere tutti giusti, senza eccezioni, pena il disastro.

Leggevo in questi giorni che Gemini continua a suggerire di incollare la mozzarella sulla pizza, perché si sta alimentando delle affermazioni da lei stessa prodotte. Chissà se è proprio così, ma finirà che i ragazzi di Google dovranno arruolare qualche altra legione di cervelli umani che facciano da annotatori per evitare che Gemini ingurgiti per addestrarsi il suo stesso vomito. Proprio come ora fanno per eliminare dalle risposte quelle schifezze del web che potrebbero turbare la nostra sensibilità. Si chiama supervised learning ed è il modo in cui funziona la IA: funziona solo basandosi su una grande quantità di lavoro umano, distribuito da apposite piattaforme, precarizzato al massimo e sottopagato. Una volta era costituito soprattutto dall’etichettatura di immagini fatta da persone del terzo mondo, ora che ha bisogno di competenze più elevate per impedire alle IA di generare stronzate sta sbarcando anche in Italia e nei paesi occidentali, all’assalto del ceto medio proletarizzato.

La buona notizia è che la capacità analitica vera continua ad essere solo una prerogativa umana. Quella cattiva è che l’umanità per avidità di guadagno si sta affidando a strumenti automatici che stanno in piedi solo grazie alle continue pezze che vengono applicate dal lavoro umano in un inarrestabile processo di proletarizzazione generale. Come diceva mia nonna veneta, spesso “Xe pexo el taccon che el buso”, è peggio la toppa del buco. Almeno così sembra a me.

Nota:

[1] “Il Dio di Abramo”: «È un Dio vigliacco, pieno di paure / Quello che protegge i poveracci / Ha il volto sporco / E gli si cola il naso / Pulendolo ogni tanto con le dita / Come i contadini della terra / Ma nella terra Lui ci manda i figli / Facendosi servire e riverire / Punendo il servo che lo guarda in faccia / Che per orgoglio non sa chinare il capo / E si ribella per non morir di fame».

Gli autori

Franco Marra

Franco Marra, laureato in ingegneria elettronica, ha iniziato la sua attività in informatica dagli anni '70, con la creazione del sistema di automazione Alba per l'aeroporto torinese di Caselle, e poi come progettista di software nel gruppo di progetto di sistemi operativi di Olivetti. Dopo una lunga attività nel settore, dal 2012 come volontario insegna in corsi per computer e smartphone per anziani promossi da SPI CGIL. Nell'estate del 2017 ha fondato, con altri professionisti in vari settori, Sloweb, un'associazione il cui obiettivo è promuovere un uso responsabile, consapevole e corretto del web.

Guarda gli altri post di:

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

Questo sito usa Akismet per ridurre lo spam. Scopri come i tuoi dati vengono elaborati.