BREAKING NEWS: Donald Trump arrestato a Manhattan, Vladimir Putin inginocchiato davanti al Presidente della Repubblica Popolare Cinese o il Papa che veste un maxi piumino Moncler con l’aria da rapper di periferia. Tutto assurdo ma estremamente verosimile. E invece sono le immagini false generate da Midjourney, un generatore text-to-image, che utilizza l’intelligenza artificiale per realizzare delle immagini a partire da un comando di testo. In parole povere: si scrive cosa si vorrebbe vedere e l’AI te lo fa vedere.
A seguito di questa sfilza di fake news, divertenti ma anche un po’ pericolose, martedì 28 marzo, la società ha interrotto le prove gratuite a causa delle «richieste straordinarie e abusi nelle prove», ha dichiarato David Holz, Ceo dell’azienda, spiegando anche che gli utenti senza abbonamento stavano esasperando la tecnologia e che le «nuove misure di sicurezza per evitare gli abusi non sembrano essere sufficienti». Per questo la società ha deciso di bloccare tutto, cercando di capire in fretta come risolvere il suo più grande problema, e tamponando la questione con un abbonamento di circa 7 euro al mese (10 dollari USA). Una decisione presa subito dopo l’ultimo aggiornamento del 15 marzo che ha trasformato il software in una macchina capace di produrre immagini ultra realistiche, aggiustando anche alcuni difetti che permettevano di riconoscere l’intervento dell’IA. «Non è perfetta, sbaglia ancora, ma molto meno». Prima dell’aggiornamento, ad esempio, un trucco per riconoscere le fake images era quello di guardare le mani che spesso avevano più dita del normale. Ora tra gli utenti è gara a chi realizza la fake news più convincente e, fuori dalla goliardia, questa tendenza rischia di prendere dei risvolti pericolosi, anche sul piano politico.
«Stavo pensando a come generare un’immagine divertente, perché di solito io faccio quel tipo di immagini lì», ha raccontato l’autore dell’immagine Monclero, Pablo Xavier, in un’intervista a BuzzFeed News. «Mi piace fare cose buffe oppure trippy art, roba psichedelica. Poi ho avuto l’illuminazione: dovrei fare un’immagine con il Papa». “Il Papa con addosso un piumino stile Balenciaga o Moncler, che passeggia per le strade di Roma o di Parigi”, è questo il prompt, il comando testuale che ha generato l’immagine. Il giornalista Ryan Broderick l’ha definita «il primo, vero, caso di disinformazione di massa generato da una AI».
Holz ha spiegato che stanno lavorando per creare nuove regole «perché le immagini diventano sempre più realistiche e gli strumenti sempre più potenti. C’è una discussione in atto, per diventare o Disney o Wild West, e tutto quello che c’è nel mezzo è ancora da definire». La società ha aggiunto che sta già lavorando per perfezionare gli strumenti di moderazione dell’intelligenza artificiale in modo tale da bloccare gli usi scorretti o dannosi della tecnologia. Il CEO, inoltre, ha chiarito che la nuova versione 5 della piattaforma non ha mai previsto la prova gratuita.
Midjourney non è l’unico programma utilizzato per generare immagini – altri simili sono Dall-E , Craiyon, Stable Diffusion o Dream by Wombo. «C’è stata una lenta combustione dell’intelligenza artificiale per un po’ di tempo, e ora c’è un incendio», ha detto al Washington Post Katerina Cizek del MIT Open Documentary Lab, che studia l’interazione uomo-computer. E infatti non solo Midjourney, anche ChatGPT, il chatbot geniale di OpenAI, si è trovato di fronte a un nuovo problema: il Garante per la Privacy in un comunicato ha annunciato il blocco del software in Italia. Secondo le dichiarazioni, ChatGPT raccoglie dati personali senza nessuna giustificazione e non ha un sistema per verificare l’età degli utenti.
«Non ci avevo mai pensato prima – ha dichiarato a posteriori Pablo Xavier – se non si danno una mossa e approvano delle leggi per regolare la cosa, si mette male».
