Le ricerche su Internet sono diventate sempre più piene di contenuti fuorvianti. Un fenomeno che contribuisce a questa situazione è la diffusione delle immagini generate dall’intelligenza artificiale (IA). Queste immagini, create da modelli di IA, sollevano diverse preoccupazioni, tra cui l’uso di opere d’arte rubate per l’addestramento dei modelli, l’elevato consumo di risorse idriche e l’impatto ambientale significativo. Inoltre, rappresentano una minaccia per la diffusione di disinformazione, sia a livello politico che in altri ambiti, attraverso la creazione di immagini false con intenti propagandistici o altri scopi malevoli. Anche le immagini apparentemente innocue possono contribuire a diffondere informazioni errate.
Le immagini generate dall’IA sono spesso visibili tra i primi risultati delle ricerche di immagini sui principali motori di ricerca. Google ha annunciato che nei prossimi mesi aggiungerà l’informazione che un’immagine è stata generata o modificata dall’IA alle Credenziali di Contenuto per quell’immagine. Tuttavia, questo sarà applicabile solo alle immagini che contengono metadati di Provenienza e Autenticità del Contenuto (C2PA). Al momento, non è stato annunciato alcun piano su come gestire le immagini AI che non utilizzano gli standard C2PA.
Le ricerche che restituiscono risultati generati dall’IA non sono una buona notizia. Questo problema è stato recentemente evidenziato dagli utenti dei social media, che hanno segnalato numerosi esempi di risultati di ricerca fuorvianti. Un caso particolarmente preoccupante riguarda le ricerche di immagini per “pulcino di pavone”. Su Bing, uno dei primi risultati di ricerca è un’immagine stock generata dall’IA. Anche su Google Immagini, al momento della scrittura, queste e altre immagini generate dall’IA appaiono, sebbene alcune siano collegate ad articoli che smascherano le immagini false.
L’immagine del “pulcino di pavone”, con occhi grandi in stile Disney, piume blu e zampe dall’aspetto inquietante, è visivamente accattivante ma completamente errata. I pulcini di pavone sono generalmente marroni, con occhi e zampe normali. Questo esempio dimostra come le immagini generate dall’IA possano facilmente ingannare gli utenti, portandoli a credere in rappresentazioni errate della realtà.
I pavoni non sono un’eccezione. Nella pagina di ricerca di Google Immagini per “galassia”, al momento della scrittura, ci sono immagini reali, immagini generate dall’IA etichettate come tali se si visita la loro fonte, e altre che chiaramente non sono genuine ma non sono etichettate come generate dall’IA. Questo dimostra come le immagini AI possano mescolarsi facilmente con quelle autentiche, creando confusione tra gli utenti.
Molte immagini generate dall’IA possono essere individuate facilmente, anche se quelle più sofisticate presentano limitazioni simili che richiedono un’analisi più attenta per individuare gli errori più evidenti.
Un buon punto di partenza è cercare errori evidenti. Pensando al pavone, gli occhi potrebbero sembrare carini (anche se falsi), ma le zampe appaiono strane. Le dita e gli arti spesso risultano difficili da riprodurre accuratamente per l’IA. In effetti, gli occhi possono essere utilizzati per verificare anche immagini false molto realistiche di esseri umani: la luce riflessa (chiamata “stelle negli occhi”) è molto difficile da riprodurre. Grazie, fisica!
