Negli ultimi trenta giorni, la rete si è riempita di video e audio generati con l’intelligenza artificiale che ritraggono papa Leone XIV. I contenuti, soprattutto su YouTube e TikTok, mostrano il pontefice in sermoni e discorsi mai pronunciati. La situazione richiama ancora una volta la difficoltà delle piattaforme nel regolare contenuti manipolati e ingannevoli in un momento di grande attenzione pubblica verso la figura del nuovo papa.
L’ondata di contenuti fake su papa Leone XIV e le piattaforme coinvolte
Dallo scorso maggio, subito dopo l’elezione del papa Leone XIV, sono spuntati centinaia di video e clip audio falsi realizzati con l’intelligenza artificiale. Questi materiali diffondono messaggi e discorsi che il pontefice non ha mai pronunciato. I contenuti risultano in lingua inglese e spagnola e sono arrivati ad accumulare milioni di visualizzazioni. YouTube e TikTok sono i luoghi principali di questa diffusione, mettendo in luce quanto sia semplice creare e far circolare contenuti manipolati, senza un controllo immediato e preciso.
Le piattaforme social si trovano davanti a una sfida: riconoscere e intervenire efficacemente su video molto realistici ma falsi, che possono modificare la percezione pubblica del papa e della Chiesa. Il fenomeno ha fatto emergere la fragilità degli strumenti attuali e la velocità con cui la disinformazione si propaga.
Leggi anche:
La posizione degli esperti sull’uso dell’ia nella disinformazione
Secondo Oren Etzioni, professore emerito all’università di Washington e fondatore di TrueMedia.org, questa situazione rappresenta “un’opportunità per diffondere confusione” in un momento in cui la figura del papa è sotto l’attenzione globale, e il pubblico ancora non conosce bene il suo stile né le sue posizioni. Il clima di curiosità e incertezza spinge molti a cercare notizie e discorsi, diventando terreno fertile per contenuti manipolati e falsi che sfruttano proprio questo interesse naturale.
Etzioni sottolinea quanto sia complicato arginare questa dinamica, perché le tecnologie di intelligenza artificiale migliorano e rendono più facile creare imitazioni realistiche e convincenti. Questi contenuti, se non fermati in tempo, potrebbero alterare l’opinione pubblica, alzando dubbi e creando tensioni su temi religiosi e sociali molto delicati.
Le reazioni e le azioni di youtube e tiktok contro i contenuti falsi
Dopo una segnalazione fatta da AFP, YouTube ha individuato 26 canali che diffondevano principalmente video creati artificialmente con la voce e l’immagine di papa Leone XIV. Di questi, 16 sono stati eliminati per violazione delle regole contro lo spam, pratiche ingannevoli e truffe, mentre un altro è stato cancellato per altre violazioni dei termini di servizio. Le rimozioni sono state necessarie per tutelare gli utenti e limitare la circolazione di messaggi falsi.
TikTok, dalla sua parte, ha rimosso 11 account collegati a queste attività. I profili totalizzavano più di 1,3 milioni di follower e pubblicavano disinformazione ritenuta dannosa. Le politiche della piattaforma proibiscono contenuti che inducono a confusione o impersonano personaggi pubblici in modo illecito. Prima della cancellazione, milioni di utenti avevano già visualizzato quei video, evidenziando la vastità della diffusione.
Le difficoltà nel contrastare la disinformazione tecnologica
Questo episodio mostra come il confine tra realtà e finzione, soprattutto con l’intelligenza artificiale, sia sempre più sfumato. In un momento delicato per la Chiesa cattolica e per chi segue le sue trasformazioni, la presenza di contenuti falsi rischia di alimentare malintesi e confusione. Le piattaforme social, pur intervenendo, si trovano a inseguire fenomeni in rapido movimento, con migliaia di materiali creati ogni giorno.
L’attenzione verso questi fenomeni è destinata a crescere, rendendo necessaria una vigilanza costante e strumenti più raffinati per identificare la manipolazione. Il pubblico dovrà imparare a distinguere più attentamente le fonti autentiche da quelle costruite con l’ausilio di algoritmi. Un compito difficile ma essenziale per evitare che il virtuale alteri la realtà dei fatti, soprattutto quando si tratta di figure pubbliche di rilievo come papa Leone XIV.