Così TikTok è diventato un ricettacolo di misinformazione sui brand

A cura di Jack Brewster e Macrina Wang

Con la collaborazione di Natalie Adams, Sara Badilini, Natalie Huet, Giulia Pozzi, Marie Richter, Sofia Rubinson e Roberta Schmid

Un video che circola su TikTok mostra immagini di statue demoniache accatastate sugli scaffali dei negozi, con una musica inquietante in sottofondo. “A quanto pare Hobby Lobby ha una montagna di statue di Bafometto [sataniche] e demoniache sugli scaffali in questo momento, il che è davvero sconcertante, perché è un’azienda super cristiana”, dice una donna non meglio identificata.

Il video è il primo risultato ad essere apparso a un analista di NewsGuard quando ha cercato il termine “Hobby Lobby” su TikTok. Contrariamente a quanto affermato nel video, però, l’azienda che si occupa di vendita al dettaglio di artigianato artistico non vende statue demoniache, e le foto mostrate nelle immagini sono state generate dall’intelligenza artificiale.

Hobby Lobby è tra i principali marchi che sono stati vittime della misinformazione dilagante su TikTok, ha rilevato NewsGuard. In un’analisi condotta dal 7 al 13 luglio 2023, NewsGuard ha analizzato i risultati di ricerca su TikTok riguardanti nove grandi marchi. Questi brand – Anheuser-Busch, Balenciaga, Barilla, Bud Light, Chick-fil-A, Heineken, Hobby Lobby, Kohl’s e Target – sono stati scelti per l’analisi perché recentemente sono diventati bersaglio di critiche o boicottaggi.

Secondo quanto osservato da NewsGuard, i video che contenevano informazioni errate su questi marchi sono stati visualizzati complessivamente 57 milioni di volte. Quasi la metà delle visualizzazioni riguardava video che utilizzavano immagini generate dall’intelligenza artificiale o che erano stati manipolati in altri modi per diffondere misinformazione.

In totale, NewsGuard ha analizzato 520 video di TikTok e ha scoperto che il 14%, ovvero 73, contenevano affermazioni false, fuorvianti o non comprovate sui marchi stessi. Questi video sono apparsi agli analisti tra i primi 20 risultati di 26 ricerche per parole chiave relative a marchi con sede negli Stati Uniti e in Europa.

L’analisi di NewsGuard aveva l’obiettivo di simulare la fruizione tipica di TikTok da parte di un utente comune che cerca notizie e informazioni sui brand utilizzando l’app. NewsGuard ha trovato misinformazione sia attraverso ricerche neutre e dirette, come “Target” e “Barilla”, sia attraverso i risultati suggeriti da TikTok relativi ai brand, spesso provocatori. Ad esempio, digitando “Barilla” nella barra di ricerca, a un’analista di NewsGuard è stato suggerito “Barilla insetti”. Inserendo “Target”, TikTok ha suggerito “Target boycott 2023”, mentre con “Anheuser-Busch” la ricerca suggerita era “Anheuser-Busch ceo is a cia operative”.

Gli studi dimostrano che i giovani si affidano sempre di più a TikTok, invece che a Google, per cercare informazioni. Nel settembre 2022, un’analisi simile condotta da NewsGuard aveva rilevato che per un campione di ricerche su TikTok relative a importanti argomenti di attualità, quasi il 20% dei video presentati come risultati conteneva informazioni errate.

Le linee guida di TikTok affermano che la piattaforma vieta i contenuti di misinformazione “che possano causare danni significativi agli individui o alla società”, ma aggiungono che la politica “non si estende ai danni commerciali e di reputazione”. Alla richiesta di un commento sui risultati della ricerca di NewsGuard, un portavoce di TikTok ha affermato che le linee guida sono conformi agli standard del settore in materia di misinformazione. Il portavoce ha anche dichiarato che TikTok ha rimosso tre dei 18 video che NewsGuard ha segnalato alla piattaforma (in realtà, a NewsGuard risulta che soltanto due video siano stati rimossi). Il portavoce ha chiesto a NewsGuard di non essere chiamato per nome e di parafrasare le risposte dell’azienda.

NewsGuard ha inviato un’email a ognuna delle aziende a cui appartengono i brand citati in questo rapporto, chiedendo loro se fossero a conoscenza della diffusione di informazioni errate sui loro marchi su TikTok. Nessuna ha risposto.

Secondo i risultati dell’analisi di NewsGuard, su TikTok il dibattito pubblico sulle azioni delle grandi aziende diventa rapidamente tossico e spesso contribuisce a diffondere misinformazione sui marchi.

Per esempio, il secondo risultato apparso utilizzando i termini di ricerca “Target Boycott 2023” – suggerito a NewsGuard da TikTok digitando “Target” – mostra una donna che sostiene che l’azienda stia offrendo costumi da bagno “tuck-friendly” (cioè con un’aggiunta di tessuto per nascondere le parti intime maschili) per i bambini appartenenti alla comunità LGBTQ+. “Lo stanno regalando ai vostri figli”, ha affermato la donna, tenendo in mano quello che, a suo dire, era uno di quei costumi da bagno. “Se questo non è un motivo per boicottare Target, non so cosa possa esserlo”. Il video, che è stato visualizzato 225.900 volte al 19 luglio 2023, era uno di tre comparsi agli analisti di NewsGuard che sostenevano la stessa tesi.

Nel maggio 2023, i conservatori americani hanno invitato a boicottare Target a causa della collezione Pride dell’azienda, che comprendeva vestiti a tema LGBTQ+ per i bambini. In realtà, secondo un portavoce dell’azienda e una revisione effettuata da NewsGuard dei capi di abbigliamento disponibili sul sito di Target, l’azienda non vende e non ha mai venduto costumi da bagno per bambini “tuck friendly”. Target ha messo in commercio questa tipologia di costumi da bagno soltanto in taglie da adulti.

Con i termini di ricerca “Target Boycott 2023”, si trova il video di una donna che afferma falsamente che Target vende costumi da bagno “tuck-friendly” per bambini. (Screenshot di NewsGuard)

In otto ricerche di parole chiave relative alla birra Bud Light e alla sua società proprietaria, l’azienda statunitense Anheuser-Busch, NewsGuard ha trovato 20 video contenenti affermazioni false, fuorvianti e prive di fondamento sulla birra stessa e sulla società produttrice. Nel marzo 2023, i conservatori americani hanno invitato a boicottare la Bud Light dopo che la birra era stata sponosorizzata sui social network dall’influencer transgender Dylan Mulvaney.

Inserendo “Anheuser-Busch” nella barra di ricerca su TikTok, l’algoritmo del social network ha suggerito, tra le varie combinazioni, “Anheuser-Busch ceo is a cia operative”. Selezionando questa opzione di ricerca, sono apparsi otto video in cui si affermava che Brendan Whitworth, l’amministratore delegato di Anheuser-Busch, è un agente della CIA. In realtà, Whitworth ha lavorato per la CIA come ufficiale operativo, ma ha lasciato l’agenzia nel 2006, secondo il sito di fact-checking Verify This.

Whitworth è stato oggetto anche di altre teorie cospirazioniste. Un altro video su TikTok apparso a NewsGuard suggeriva che Whitworth avesse deciso di affidare a Mulvaney, l’influencer transgender, un video promozionale perché voleva combattere i pregiudizi contro i transgender dopo la sparatoria avvenuta il 27 marzo 2023 in una scuola elementare di Nashville in cui sono morte sei persone. Il sospettato della sparatoria di Nashville, Aiden Hale, poi ucciso dalla polizia, è un uomo transgender. “Ecco a voi Brendan Whitworth, Anheuser Busch… 12 [milioni] di stipendio annuo, ex membro della CIA che mette un transgender a pubblicizzare la birra d’America subito dopo che un transgender ha ucciso dei bambini in una scuola cristiana di Nashvilke [sic]… SIETE SVEGLI?”, si leggeva nella didascalia del video. Al 19 luglio 2023, il video ha ottenuto 61.600 visualizzazioni.

In realtà, Bud Light ha deciso di collaborare con Mulvaney prima della tragedia di Nashville. Il primo post sponsorizzato da Bud Light sull’account Instagram di Mulvaney risale a febbraio.

NewsGuard ha visualizzato un video in cui si affermava falsamente che l’amministratore delegato di Anheuser-Busch, Brendan Whitworth, avesse deciso di affidare all’influencer transgender Dylan Mulvaney uno spot pubblicitario in seguito alla sparatoria alla Covenant School di Nashville, nel Tennessee. (Screenshot di NewsGuard)

Sette dei 73 video con informazioni false o ingannevoli identificati da NewsGuard includevano immagini e clip manipolate digitalmente – tre delle quali utilizzavano immagini apparentemente generate dall’intelligenza artificiale – per mettere in cattiva luce i brand. In totale, questi video sono stati visualizzati 26.010.700 volte al 19 luglio 2023 (un video è apparso due volte). In alcuni casi, i video hanno poi portato decine di utenti a lasciare commenti che invitano a boicottare le aziende citate.

Oltre al video di Hobby Lobby citato sopra, due video di TikTok con immagini generate dall’intelligenza artificiale sostenevano che Target vendesse abbigliamento satanico. “Guardate queste immagini che sto per mostrarvi di ciò che Target ha in serbo per i nostri figli e per ognuno di voi”, ha affermato l’influencer cristiano di TikTok “King Joshua” in un video del 12 giugno 2023, prima di mostrare una serie di immagini che ritraggono un negozio con icone sataniche e un uomo che indossa abiti a tema satanico.

Il video, che è stato il nono risultato per il termine di ricerca “Target”, ha attirato più di un milione di visualizzazioni, e molti utenti hanno scritto nei commenti che non faranno più acquisti presso il rivenditore. “Boicottaggio permanente questa volta”, ha scritto un utente. “Chi ci sta? Non scherzate con i nostri figli”.

In realtà, Target non vende i vestiti satanici mostrati da “King Joshua”. Le foto generate dall’IA sembrano provenire da un account Facebook chiamato “The Pumpkin Empress”, che ha postato i video sulla sua pagina nel maggio 2023 con la didascalia “AI pics: by yours truly, feel free to fall for it” (“Foto IA: a cura del sottoscritto, sentitevi liberi di cascarci”).

(In alto) Il nono risultato comparso a un analista di NewsGuard con il termine “Target” su TikTok è un video che mostra immagini generate dall’IA di prodotti satanici che si dice sarebbero venduti da Target. (In basso) Le immagini provengono da questo post di Facebook del 27 maggio 2023. L’utente che le ha pubblicate ha dichiarato di averle generate con l’IA. (Screenshot di NewsGuard)

Un altro video manipolato digitalmente e apparso come risultato agli analisti di NewsGuard nel corso della loro ricerca sosteneva che Bud Light si stesse “vendicando” delle critiche ricevute per la partnership con Mulvaney acquistando un annuncio su un cartellone pubblicitario con la scritta “lol CRYBABIES” (in italiano, “lol PIAGNONI”). L’utente che ha postato il video – che su TikTok si fa chiamare “Jess in Miami” – insinuava che il cartellone fosse la prova che Bud Light ha orchestrato la controversia per farsi pubblicità. Al 19 luglio 2023, il video aveva ottenuto 1,4 milioni di visualizzazioni. (Dopo che NewsGuard ha contattato TikTok per un commento, il video è stato rimosso).

In realtà, Bud Light non ha chiamato i suoi critici “piagnoni” e il cartellone, che si trova a Toronto, mostra in realtà una pubblicità di un’altra azienda, il servizio di streaming Disney Plus. “Il nostro cartellone è stato alterato nelle immagini che sono circolate sui social network”, ha dichiarato all’Associated Press Toby Sturek, dirigente di Branded Cities, la società pubblicitaria proprietaria del cartellone, nell’aprile 2023.

Le linee guida di TikTok affermano che “I supporti sintetici o manipolati che mostrano scene realistiche devono essere chiaramente segnalati. Questo può essere fatto attraverso l’uso di un adesivo o di una didascalia come ‘sintetico’, ‘falso’, ‘non reale’ o ‘alterato’”. Tuttavia, nessuno dei video manipolati individuati da NewsGuard su TikTok conteneva didascalie o segnalazioni che indicassero che erano stati modificati. Un video, quello della Hobby Lobby citato all’inizio di questo rapporto, includeva un logo in sovrimpressione di un gruppo Reddit chiamato “Midjourney” che condivide immagini generate dall’intelligenza artificiale. (Midjourney è anche il nome di un programma che genera immagini tramite l’IA). Il portavoce di TikTok ha detto a NewsGuard che il logo in sovrimpressione soddisfa gli standard della piattaforma sull’identificazione di video generati dall’intelligenza artificiale.

Come già accennato, NewsGuard ha scoperto che il motore di ricerca di TikTok, che suggerisce agli utenti parole chiave mentre digitano un determinato termine, li indirizza verso misinformazione e teorie cospirazioniste legate ai marchi.

Ad esempio, quando un’analista di NewsGuard ha digitato “Heineken” nella barra di ricerca di TikTok il 13 luglio 2023, le frasi “Heineken conspiracy”, “Heineken androchrome” [sic] e “Heineken bill gates” sono apparse tra le ricerche suggerite.

I risultati della ricerca di queste parole chiave includevano 10 video che sostenevano teorie cospirazioniste infondate su Bill Gates e sulla casa produttrice di birra olandese, di cui Gates ha acquistato una quota del valore di 902 milioni di dollari. Tra questi risultati è apparso un video in cui si sosteneva che il miliardario della tecnologia stesse usando Heineken per “iniettare roba” nel cibo, nell’acqua e negli animali, e un altro video in cui si suggeriva che la partecipazione finanziaria di Gates in Heineken facesse parte di un piano per ridurre la popolazione mondiale. La frase di ricerca suggerita “Heineken androchrome” [sic] ha portato a due video che promuovevano una teoria cospirazionista di QAnon, secondo la quale Gates starebbe trasportando l’adrenocromo, un composto prodotto naturalmente dalle ghiandole surrenali degli esseri umani, nei barili di Heineken. Dopo che NewsGuard ha chiesto un commento, TikTok ha rimosso uno dei due video che promuovevano tale teoria cospirazionista.

Secondo i sostenitori di QAnon, le élite raccoglierebbero l’adrenocromo dai bambini abusati e lo userebbero per rimanere sani e giovani. Secondo un rapporto del McGill Office for Science & Society, non ci sono prove che il composto abbia effetti di ringiovanimento o proprietà psichedeliche, né che Heineken lo stia trasportando in alcun modo.

Le parole chiave di ricerca suggerite per “Heineken” su TikTok includono “Heineken conspiracy”, “Heineken androchrome” [sic] e “Heineken bill gates”. (Registrazione dello schermo di NewsGuard)

Allo stesso modo, quando un’analista di NewsGuard con sede in Italia ha digitato “Barilla” su TikTok l’11 luglio 2023, la prima frase di ricerca suggerita è stata “Barilla insetti”. Cliccando su questa frase sono apparsi quattro video che sostenevano l’affermazione infondata secondo cui la pasta Barilla è fatta con gli insetti. “Però adesso è ufficiale che la pasta Barilla viene fatta anche inserendo farina di insetti”, recitava un video che ha ottenuto 353.000 visualizzazioni.

Le parole chiave di ricerca suggerite per “Barilla” su TikTok includono “Barilla insetti”. (Screenshot di NewsGuard)

Pare che questa narrazione abbia iniziato a circolare per la prima volta nell’ottobre 2022, dopo che la Fondazione Barilla affiliata all’azienda, che promuove la ricerca sulla sostenibilità, ha twittato un video in cui un comico italiano parlava del valore nutrizionale del cibo a base di insetti. A seguito delle reazioni degli utenti dei social network, il 2 novembre 2022, la Fondazione Barilla ha emesso un comunicato stampa che affermava: “Il Gruppo Barilla non ha mai annunciato il lancio di prodotti realizzati con farina di insetti e non ha alcun interesse ad espandere la propria attività in questa direzione”. NewsGuard ha esaminato l’elenco degli ingredienti dei prodotti Barilla e ha confermato che l’azienda non utilizza farina di insetti nella sua pasta.

NewsGuard ha inviato diverse domande a TikTok, tra cui richieste generali sul funzionamento della sua funzione di ricerca e domande su argomenti specifici, ad esempio su come intende combattere la misinformazione generata dall’intelligenza artificiale. Sebbene TikTok abbia fornito un commento generico, riportato sopra, su come la piattaforma gestisce la misinformazione, il portavoce non ha risposto direttamente a molte delle domande di NewsGuard, tra cui:

• L’algoritmo del motore di ricerca di TikTok è stato progettato per evitare di fornire agli utenti informazioni errate? Se sì, come?
• Perché la funzione di ricerca di TikTok indirizza gli utenti a cercare contenuti falsi o fuorvianti?
• Chi decide in che modo l’algoritmo del motore di ricerca di TikTok fornisce risultati agli utenti?

Nel luglio 2023, tre analisti di NewsGuard con sede negli Stati Uniti, due con sede in Italia e una con sede in Francia, hanno effettuato 26 ricerche su TikTok utilizzando i termini elencati di seguito. Tutti i termini di ricerca elencati di seguito sono stati suggeriti dall’algoritmo di TikTok quando NewsGuard ha digitato “Target”, “Chick-fil-A”, “Bud Light”, “Hobby Lobby”, “Kohl’s”, “Anheuser-Busch”, “Balenciaga”, “Barilla” e “Heineken”. Sono stati selezionati solo i termini di ricerca suggeriti relativi ad argomenti di attualità.

NewsGuard ha scoperto che digitando “Bud Light” non si ottenevano ricerche suggerite su TikTok, ma lievi variazioni di “Bud Light”, come “Budlight”, “Buds light” e “Bed light”. NewsGuard ha quindi analizzato le ricerche suggerite per queste varianti di “Bud Light”. Il portavoce di TikTok ha dichiarato a NewsGuard che ciò era dovuto a un errore che interrompeva le ricerche relative a “Bud Light”, e ha affermato che l’errore era stato risolto. Tuttavia, quando NewsGuard ha digitato “Bud Light” nella barra di ricerca di TikTok il 24 luglio 2023, la piattaforma non ha suggerito alcuna ricerca.

Per assicurarsi che i risultati non fossero influenzati dall’attività precedente degli analisti, questi ultimi hanno cancellato e reinstallato TikTok e creato nuovi account per ogni ricerca. Gli analisti hanno scattato le foto delle schermate di ogni ricerca e hanno archiviato i video.

Termini di ricerca, con il numero di video che contenevano informazioni chiaramente false o fuorvianti che sono stati proposti tra i primi 20 risultati:

Target (1/20)

Target controversy (5/20)

Target boycott 2023 (4/20)

Chick Fil A (0/20)

Chick Fil A lgbtq (2/20)

Chick Fil A woke (3/20)

Bud light (0/20)

Budlight boycotted (1/20)

Buds light controversy (4/20)

Bed light Dylan mulvaney (2/20)

Hobby Lobby (2/20)

Hobby Lobby controversy (1/20)

Kohls (0/20)

Kohls boycott 2023 (3/20)

Anheuser-Busch (3/20)

Anheuser-Busch-conspiracy (1/20)

Anheuser-Busch trans Dylan mulvaney (2/20)

Anheuser-Busch ceo is a cia operative (9/20)

Balenciaga (2/20)

Balenciaga satanism (12/20)

Barilla (1/20)

Barilla insetti (4/20)

Heineken (0/20)

Heineken conspiracy (5/20)

Heineken androchrome (2/20)

Heineken bill gates (4/20)