Produttori di bufale – con l’intelligenza artificiale

C’è la storia di Magon d’Aloia, diciassette anni, sospeso dal Liceo scientifico per aver scritto un tema sulla “dittatura sanitaria”. Poi c’è quella di Giulia, niente cognome, picchiata selvaggiamente e insultata per essere entrata in un supermercato a Beinasco, nella prima cintura torinese, senza mascherina. E quella di Martino Iannini, due anni e mezzo, sottratto dal tribunale ai genitori ipocondriaci che gli facevano portare la mascherina giorno e notte… 

Vicende estreme, fonti di accesi dibattiti sul web, ma con una caratteristica in comune: quasi sicuramente non sono mai avvenute. Pur essendo diventate virali, tutte queste storie hanno sempre un’unica fonte: Beatrice Juvenal, che fino a pochi giorni fa si identificava su Facebook come “giornalista indipendente” (oggi a quanto pare preferisce il titolo di “leader novax”). 

Il suo modus operandi è sempre quello: per prima, c’è la pubblicazione di un post su Facebook corredato da una fotografia del protagonista, in primo piano e con uno sfondo indefinito. Le sue storie hanno quasi sempre a che fare con i vaccini o con la pandemia, magari in associazione con altri temi di attualità (come la vicenda di Sossella Lage, che avrebbe denunciato di essere stata presa con la forza da tre alpini e portata in un hub vaccinale contro la sua volontà, o come quella di Magonda Loya, infermiera ucraina in fuga dalla guerra e assunta per sostituire una collega novax – nome stranamente simile allo studente Magon d’Aloia, tra l’altro). Il secondo step è quello dell’attesa: il post guadagna like e condivisioni, spesso finisce ripreso su altri social, come Twitter o Telegram. Infine, il contenuto del post viene cancellato e via, pronti per un nuovo giro di giostra, con una nuova notizia priva di fonti e senza riscontri su qualsiasi quotidiano o su altre fonti indipendenti e in qualche modo commentabili. 

Quanto ai protagonisti delle storie, rimangono dei fantasmi: non sembrano esistere sul web prima dei post di Beatrice Juvenal. Niente profili sui social, nessun’altra prova della loro esistenza, nessun risultato sui servizi di ricerca inversa di immagini (solo in un caso, per la notizia “Novax licenziato trova un sistema per vincere alla roulette e va a vivere alle Canarie”, l’utente ha usato una foto facilmente identificabile… che risulta però essere quella dell’attore Jesus Jr). Certo, l’assenza dai social non è una prova certa di non esistenza, ma è curioso che la cosa si verifichi sempre, immancabilmente, per ognuna delle presunte vicende in questione. 

L’ipotesi più probabile – avanzata, ad esempio, da Facta e da Open – è che queste immagini siano dei GAN (generative adversarial network), cioè di fotografie generate da un’intelligenza artificiale. Questa, tutto sommato, è la cosa più interessante di questa vicenda, in parte simile a quella di altri serial hoaxers e troll, ma con qualche spunto tecnologico in più.

La tecnologia GAN è in sostanza una classe di metodi che “insegnano” a una rete neurale a produrre nuovi dati a partire da un database di addestramento. In questo modo, ad esempio, iniziando da una collezione di foto di gatti, è possibile generarne una nuova, realistica, non presente tra le immagini originarie. E non si tratta soltanto di una possibilità teorica: è stato fatto sul serio, come potrete verificare cliccando su This Cat does not Exist e aggiornando la pagina ogni volta. Lo stesso sistema è stato usato per creare opere d’arte, personaggi di anime, case per le vacanze. Nel 2018 un dipinto realizzato da “Edmond de Belamy” (un algoritmo il cui nome è un omaggio a Ian Goodfellow, uno dei primi studiosi delle tecniche GAN – Goodfellow è l’inglese per “buon amico”, in francese “bel ami”) è stato venduto all’asta per 435.000 dollari. 

Dal 2019 è attivo anche This Person does not exist, frutto di un progetto personale dell’ingegnere Phillip Wang, che sfrutta la stessa tecnologia per generare volti umani. Sulla stessa base sono nati servizi che permettono di creare una foto profilo fittizia da usare sui social a partire da poche informazioni di base. Distinguere le immagini false da quelle reali non è per niente facile: a volte l’intelligenza artificiale può commettere errori, introducendo artefatti o asimmetrie su oggetti che dovrebbero essere simmetrici (occhiali, orecchini), ma il più delle foto sono assolutamente indistinguibili anche agli occhi di un fotografo professionista. Se volete mettervi alla prova, vi consigliamo il sito Which Face is Real?

Gli autori, Jevin West e Carl Bergstrom, l’hanno creato proprio per cercare di insegnare qualche trucco per identificare i falsi e per render consapevoli gli utenti della facilità con cui si può essere ingannati. La tecnologia GAN può essere usata, infatti, per creare falsi profili da sfruttare nelle truffe affettive, ed è alla base dello sviluppo dei deepfake

Ma questa tecnica può essere impiegata – come nel caso di “Beatrice Juvenal” – per rendere più credibili storie inventate. Quanto alla sedicente giornalista, il 14 maggio ha scritto sui social di essere stata sospesa dall’Ordine, anche se dalle indagini di David Puente sembra non esservi mai stata iscritta. 

Forse, ora che il suo nome è stato associato alle bufale, cambierà profilo e identità, o forse continuerà la sua attività online come se nulla fosse. Sta a noi, in realtà, rimanere vigili e consapevoli delle tecnologie che si possono sfruttare, e non rilanciare storie che provengono sempre da un’unica fonte (magari della quale fino a poco prima non avevamo mai sentito parlare).  

Sofia Lincos

Sofia Lincos collabora col CICAP dal 2005 ed è caporedattrice di Queryonline. Fa parte del CeRaVoLC (Centro per la Raccolta delle Voci e Leggende Contemporanee) e si interessa da anni di leggende metropolitane, creepypasta, bufale e storia della scienza.

4 thoughts on “Produttori di bufale – con l’intelligenza artificiale

  • 20 Maggio 2022 in 17:36
    Permalink

    Peccato che queste tecnologie vengano utilizzate a scopo malevolo come la diffusione di false notizie, perché io in questo periodo sto cercando di approfondire la questione del GAN, per necessità.
    Sono una persona non vedente e per forza di cose non ho la possibilità di disegnare – dovrei pagare uno che lo fa al mio posto.
    Scrivo storie di fantasia in cui ci sono dei personaggi e mi piacerebbe associare loro delle immagini. Se davvero esistessero servizi in grado di costruire una faccia umana realistica fornendogli alcune informazioni, avrei risolto in parte il problema e potrei regalare un volto a chi adesso non ce l’ha. Più che altro perché il sistema blog che uso attualmente è più funzionale se oltre allo scritto ci sono immagini, perché fosse per me me ne fregherei proprio, delle fotografie.
    Uso già l’intelligenza artificiale come sistema di ausilio, un’app e un paio di occhiali che tramite questa tecnologia descrivono per quanto possibile la scena e leggono i testi che ho intorno; e davvero mi dispiace constatare di come questa capacità tecnologica faccia più “rumore” quando viene usata per il male, piuttosto che per il bene.
    E allora anche tra i vari divulgatori scientifici vien fuori la tendenza a giudicarla come malevola, quando in realtà a essere malevolo è l’uso che certi uomini ne fanno. Anche perché diciamolo: se tutti cadono in certa disinformazione, è perché il gap più che tecnologico è umano, con la scuola che insegna sempre meno a essere critici o per lo meno curiosi verso gli input che arrivano dal mondo esterno.
    In quanto alla non presenza sui social, il mio più caro amico non ha FB, né Instagram, guarda Youtube come la tv, gli interessa fin là. Mi dà una mano a scrivere certi contenuti sul sito web e per il resto se ne frega fin là dell’interazione col mondo web. E non fa tanto casino.

    Rispondi
  • 22 Maggio 2022 in 11:02
    Permalink

    Grazie per il commento, Elena, che ci fa conoscere un mondo ben poco conosciuto. E’ molto bello sapere che una persona non vedente possa leggere gli Articoli ed i Commenti qui presenti. Dovrebbe riuscire a farci sforzare di più a scrivere cose belle ed utili.

    Rispondi
    • 22 Maggio 2022 in 18:10
      Permalink

      Che cosa? Ho letto bene?
      Ancora nel 2022 c’è gente a cui bisogna spiegare che le persone non vedenti usano la tecnologia?
      Io non posso credere che non vi sia capitato neanche per sbaglio di avere lo smartphone o il PC che a un certo punto si mettono a parlare da soli e non siate stati curiosi di approfondire cosa sia, senza limitarvi a pensare al siri o alexa di turno.
      Prima di fare certe figure sarebbe quanto meno da prendere google e scrivere “lettore di schermo” o “screen reader” per esempio. Fin che certe uscite le trovo in un sito o pagina dove si parla di serie tv posso anche capirlo, ma qui avevo la speranza di trovare persone un po’ più ferrate a livello scientifico e informatico.
      Mi faccio il mazzo, spendo soldi, trent’anni che uso la tecnologia, studio e mi interesso di questioni tecniche e scientifiche… Poi mi tocca sentirmi dire “che bello sapere che un non vedente legge e scrive” come se si stesse parlando di un miracolo.

      Rispondi
  • 24 Maggio 2022 in 06:57
    Permalink

    Chiedo umilmente perdono, Elena.

    Rispondi

Rispondi a Aldo Grano Annulla risposta

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *