(2024) Il papa in ghingheri è un falso dell'intelligenza artificiale e un primo assaggio di una nuova realtà

Le immagini generate dall'intelligenza artificiale sono già diventate virali in passato, ma nessuna si è diffusa così in lungo e in largo come una foto del Papa che indossa quello che può essere descritto solo come un. Chiamatelo il Sommo Pontefice. Il vescovo Balenciaga. Il vicario del gocciolamento.

L'immagine sembra essere stata pubblicata online per la prima volta venerdì, inviata a un subreddit per il generatore di immagini AI Midjourney. Nel corso del fine settimana si è diffusa su Twitter e altri social network, prima come meme e poi come oggetto di debunking. Domenica, Chrissy Teigen ne parlava: un indicatore affidabile del fatto che una battuta su Internet è diventata mainstream.

"Ho pensato che la giacca a vento del Papa fosse vera e non ci ho pensato due volte. non sopravviverò mai al futuro della tecnologia", ha twittato la Teigen, incarnando le reazioni di molti internauti. Nelle sue risposte, qualcuno ha detto di aver pensato che chiamarlo AI-generato era lo scherzo, e la Teigen ha risposto: "Oh, cavolo, ora sono davvero confusa. È reale?? Mi odio lol".

L'immagine è decisamente falsa, e ci sono importanti indizi L'immagine è sicuramente falsa. Non solo è stata inserita nel subreddit insieme a tre alternative (Midjourney di solito genera quattro immagini in risposta a ogni richiesta), ma contiene anche segni rivelatori di una generazione AI, tra cui una serie di aree in cui i dettagli sono vistosamente spalmati. C'è una mano che non è del tutto in grado di afferrare una tazza di caffè che non è del tutto in grado di farlo; un crocifisso senza angoli retti che rappresenta Gesù se fosse stato scolpito nell'argilla e poi seduto su di esso; e il bordo di una lente per occhiali che in qualche modo si trasforma nella sua stessa ombra - tutti elementi indicativi della generazione dell'IA: prodotti di un sistema che conosce la superficie della realtà ma non le regole sottostanti che governano l'interazione degli oggetti fisici.

![Dettagli ravvicinati del papa generato dall'IA, che mostrano i punti in cui l'immagine è sfocata] (https://duet-cdn.vox-cdn.com/thumbor/0x0:1500x564/2400x902/filters:focal(750x282:751x283):format(webp)/cdn.vox-cdn.com/uploads/chorus_asset/file/24539390/ai_pope_fake_details.jpg) Una macchia qui, una sfocatura là: segni rivelatori di un'immagine generata dall'intelligenza artificiale. Collage: The Verge Eppure, sottolineare tutto questo sembra una pedanteria, perché l'immagine sembra innegabilmente reale - per una certa definizione di reale, comunque. Se venerdì l'avete passata nel vostro feed, probabilmente non ci avete pensato due volte, magari twittando "dang the pope a dripgod" e poi andando avanti con la vostra giornata.

Ma è utile analizzare il motivo per cui questa particolare immagine è diventata virale, perché rivela molto su come i falsi dell'intelligenza artificiale saranno condivisi e diffusi nei prossimi mesi. (Non più di questo, però: il campo si muove troppo velocemente perché le previsioni si conservino più a lungo degli avanzi congelati). Per essere più specifici, l'immagine è diventata virale perché rappresenta un particolare allineamento tra soggetto ed estetica: funziona come falso proprio perché corrisponde ai modi in cui già oggi consumiamo le immagini.

Innanzitutto, c'è il soggetto: il Papa stesso. Come ha notato il giornalista Ryan Broderick su Twitter, c'è qualcosa di particolare nell'immagine del Papa che dà credito al falso. "La mia teoria sul perché stia ingannando così tanti (me compreso inizialmente) è che il papa esteticamente si trova nella stessa valle del mistero della maggior parte dell'arte AI", ha spiegato Broderick. Per essere più espliciti: il Papa è noto per indossare abiti eleganti e le sue immagini diventano spesso virali per questo motivo.

Come spiega la trend forecaster Ayesha Siddiqi , l'associazione tra il vescovo di Roma e la moda italiana è così forte che il Vaticano è stato costretto a smentire le voci secondo cui il papa indossa mocassini firmati. ("Il papa, in sintesi, non indossa Prada, ma Cristo", è stata la smentita ufficiale). E ci sono così tante foto di Papa Francesco in giro per il web che altri hanno potuto, come il Papa che firma una Lamborghini. È questo contrasto tra l'autorità spirituale e la spavalderia materiale del Papa che lo rende spesso un meme. (Questo e il fatto che.)

I generatori d'arte AI sono particolarmente sensibili a una certa estetica iperreale Ma, cosa altrettanto importante, il fatto che il Papa sia una celebrità rende le immagini incredibili di lui intrinsecamente più credibili. Ciò è dovuto allo stile di immagine creato dai generatori di arte artificiale. Si tratta di un aspetto specifico strettamente associato al software di Midjourney, che ha ricevuto un aggiornamento per migliorare la qualità della sua produzione e che, a sua volta, ha creato una mini ondata di falsi AI credibili attualmente in circolazione sul web. (Inoltre, il fatto che nei dati di addestramento di Midjourney ci siano molte foto di celebrità facilita la generazione di tali immagini).

Chiamiamo questo stile iperrealismo. In primo luogo, perché è l'aggettivo spesso usato nei messaggi di testo per generare tali immagini e, in secondo luogo, perché collega l'estetica al concetto di iperreale di Jean Baudrillard, una cultura in cui le simulazioni sostituiscono la realtà.

L'iperrealismo nel contesto delle immagini di IA è un'estetica definita da un'illuminazione perfetta e da superfici lucide, da pose drammatiche e da colori saturi. È stilizzata ed esagerata, il tipo di immagine che già associamo alle celebrità, le cui sembianze sono riprodotte con tale abbondanza e deliberazione che spesso sembrano già finte. L'aspetto interessante (che collega l'estetica dell'iperrealismo dell'IA alla filosofia di Baudrillard) è che molti nella comunità artistica dell'IA descrivono queste immagini come "" quando invece sono chiaramente dei cartoni animati. Per queste persone, ciò che è reale è l'output dei sistemi di IA: è la simulazione che sostituisce la realtà.

Penso che siano questi fattori insieme a spiegare perché certe immagini di IA sono diventate virali di recente. Il Papa con lo swag non è l'unico. In ogni caso, la celebrità del soggetto ci spinge a credere ai nostri occhi, così come il contenuto, che spesso è legato a eventi recenti (le proteste in Francia, la presunta incriminazione di Trump, ecc.)

Ciò è al tempo stesso spaventoso e rassicurante: rassicurante perché suggerisce che attualmente esiste un limite alla credibilità dei falsi dell'IA, ma spaventoso perché questa tecnologia si sta muovendo troppo velocemente perché le attuali rassicurazioni possano rimanere valide a lungo. In realtà, direi che c'è solo una garanzia quando si tratta di immagini AI: diventeranno sempre più credibili. Non sono certo limitate all'estetica attuale. E prima o poi diventeranno iperreali, come Baudrillard ha definito il concetto: mascherando completamente la distinzione tra immaginario e reale.