L’IA rischia il “brain rot” quando sta troppo sui social
Anche l’Intelligenza Artificiale si comporta come quella umana: l’eccessiva permanenza sui social e su contenuti virali, ma scadenti, può danneggiare in modo permanente le capacità dei modelli di intelligenza artificiale. Lo rivela una ricerca statunitense, che spiega che il potere dei social network non influenza solo le persone. A quanto pare, può lasciare un segno anche sulle intelligenze artificiali.
Il nuovo studio, condotto da un team congiunto dell’Università del Texas ad Austin, della Texas A&M e della Purdue University, mette in guardia da un fenomeno già noto nel mondo reale: il cosiddetto “brain tot”, più o meno il “rimbambimento” . Un termine diventato familiare nel 2024, quando Oxford Dictionary lo ha eletto parola dell’anno per descrivere gli effetti della sovraesposizione a contenuti online poveri di qualità.
Quando i modelli imparano da fonti spazzatura
I ricercatori hanno scelto due grandi modelli linguistici open source molto diffusi, Llama di Meta e Qwen di Alibaba, per un test insolito. Hanno alimentato i sistemi con un’ampia raccolta di post altamente coinvolgenti ma sensazionalistici, tipici dei social media: frasi urlate, esagerazioni, “wow”, “guarda qui!”, promesse da clickbait.
Quello che è emerso è un calo netto delle prestazioni. I modelli hanno mostrato difficoltà nel ragionamento logico, peggioramento della memoria nei test di verifica e persino un indebolimento dei parametri legati all’allineamento etico. In alcuni casi, secondo lo studio, gli algoritmi hanno iniziato a mostrare risposte più impulsive e meno calibrate, definite dagli studiosi come “più psicopatiche”.
Un danno che resta
L’aspetto più preoccupante è che, una volta assimilati i dati “tossici”, i modelli non sono riusciti a recuperare pienamente neppure dopo essere stati rieducati con dati accurati e verificati. Una vulnerabilità non da poco, se si considera quanto spesso i social forniscano contenuti ai sistemi di addestramento.
Gli autori sottolineano che molti sviluppatori danno per scontato che ciò che appare sui social possa essere un buon alimento informativo, ma l’effetto può essere opposto: distorsione del ragionamento e perdita di controllo sulla qualità delle risposte.
Un circolo vizioso che rischia di non finire mai
Man mano che le IA generano contenuti ottimizzati per il massimo coinvolgimento, finiscono per alimentare la stessa spirale: ciò che producono torna nel flusso dei dati pubblici e diventa materiale di addestramento futuro. Un ciclo potenzialmente senza fine.
La voce dei ricercatori
“Viviamo in un’era in cui le informazioni crescono più velocemente della nostra attenzione”, afferma Junyuan Hong, tra gli autori dello studio.
“Se la tecnologia impara dai contenuti virali, rischiamo di comprometterne le basi cognitive. E una volta che il danno si insedia, non basta un addestramento pulito per cancellarlo”.
