Lo “slop” è il nuovo spam

Internet non se la sta passando benissimo. Tra social media che paiono al principio del loro declino, milioni di pagine vuote e link rotti che si accumulano, stormi di bot e profili falsi che creano contenuti destinati ad alimentare interazioni fantasma e terribili malfunzionamenti dell’algoritmo che hanno trasformato Facebook e Instagram in una specie di fognatura del content, quello che doveva essere il supremo network digitale che connetteva il mondo diventa sempre più un bassofondo di vicoli stretti e bui, dove si annidano scammer e vampiri di attenzione. Ma le cose possono sempre andar peggio: di recente, con l’avvento delle AI sempre più intelligenti ma anche sempre più stupide un nuovo tipo di content è emerso prendendo il nome di “slop”. Il termine è emerso tra i forum online che sono la vera fucina della cultura pop di Internet riferendosi a contenuti di scarsa qualità, fake news o video e immagini fasulle generati dall'IA che si trovano nei social media, nell'arte, nella letteratura e, sempre più, nei risultati di ricerca. Ad esempio, quando Gemini, l’AI di Google, afferma che gli astronauti hanno effettivamente trovato dei gatti sulla Luna, quello è slop. Ma anche la ricostruzione inesatta di una certa informazione lo è: chiedendo a Gemini di condurre una ricerca, tutti i dati storici come date o eventi privi di una base documentale sono basicamente inventati di sana pianta. Ma anche le foto AI a cui frotte di utenti meno digitalmente alfabetizzati reagiscono con totale e innocente onestà, credendole vere: di recente un caso virale è stato quello di una raffigurazione di Gesù composta da gamberetti, ma anche un delirio architettonico rococò creato da una AI che alcune pagine “slop” di Facebook pubblicavano come ricostruzione delle Terme di Caracalla a Roma per la meraviglia di tutti quegli utenti che amano commentare con emoji o con esclamazioni.

Il termine ha attirato molta attenzione il mese scorso quando Google ha integrato il suo modello di intelligenza artificiale Gemini nei risultati di ricerca negli Stati Uniti. Questo cambiamento aveva lo scopo di fornire risposte dirette alle ricerche degli utenti attraverso una AI Overview in cima alle pagine dei risultati di ricerca. Ma i problemi sono iniziati subito: a un certo punto sono iniziati a circolare anche meme sulle risposte surreali che l’AI dava agli autenti dicendo che Obama era musulmano, che Drake giocava nella lega nazionale di football americana, che i cani possono possedere e gestire hotel e pilotare aerei. Insomma, per intelligente che sia, l’AI non è ancora in grado di distinguere contesti e operare con quel “senso di verosimiglianza” che a un essere umano consente di distinguere il plausibile dall’impossibile. Ma ora che i contenuti generati dalle macchine aumentano il problema di questa disinformazione digitale cresce. Il termine "slop” si riferisce infatti al pastone triturato che viene versato nelle mangiatoie per il bestiame degli allevamenti intensivi. Anche questo “slop” infatti è una poltiglia di informazioni triturata da macchine praticamente priva di valori nutrizionali. Sulle pagine di Frontline, la ricercatrice AI americana Melanie Mitchell ha detto: «Il sistema di intelligenza artificiale di Google non è abbastanza intelligente da capire che questa citazione non supporta effettivamente l'affermazione. Data la sua inaffidabilità, ritengo che questa funzione di panoramica dell'intelligenza artificiale sia molto irresponsabile e dovrebbe essere disattivata».

Parlando al The New York Times, Kristian Hammond, direttore del Center for Advancing Safety of Machine Intelligence della Northwestern University, ha sottolineato anche che spesso le AI presentano le informazioni come una risposta definitiva piuttosto che come uno spunto, alimentando i rischi di disinformazione: sta all’utente che ha fatto la domanda verificare che le fonti fornite dalle AI non siano dei semplici link a generiche homepage con nessuna attinenza alla ricerca stessa. Secondo diversi esperti intervistati sempre dal The New York Times, inoltre, “slop” potrebbe a breve diventare una parola popolare come “spam” – termine che ha più o meno le medesime origini. Ad ogni modo, il mondo dell’informazione non sembra sull’orlo di sprofondare nel caos: secondo Chartbeat, poco dopo il lancio delle risposte AI alle domande sui motori di ricerca, l’entusiasmo si è esaurito e gli utenti sono tornati a condurre ricerche su pagine vere. Non di meno, risulta come minimo preoccupante che tanti aspetti della vita quotidiana degli utenti online e offline sia governato da AI che sono sempre più fondamentali ma che allo stesso tempo si dimostrano tanto inclini a sbagliare quanto gli esseri umani e in maniere sempre più marchiane.