Dopo che il primo bambino è morto per auto-strangolamento durante il tentativo di “Blackout Challenge”, ci sono stati molti passi che TikTok avrebbe potuto intraprendere per proteggere immediatamente altri bambini dallo stesso destino. Invece, una nuova causa intentata in California afferma che TikTok ha scelto di continuare a trarre profitto dalla promozione di quella che ora viene descritta come la sua sfida più mortale, causando direttamente la morte di altri sei bambini nel 2021.
La causa è stata intentata dai genitori di due di quei bambini, ragazze di 8 e 9 anni. Affermano che i loro figli sono diventati dipendenti da TikTok, sono stati nutriti con un flusso costante di video di sfida apparentemente innocui che li hanno persuasi a partecipare, e poi sono morti dopo aver tentato la Blackout Challenge. (The Blackout Challenge incoraggia gli utenti di TikTok a pubblicare video in cui si soffocano fino a quando non svengono.)
Piuttosto che incolpare i creatori di video dannosi o perseguire TikTok per aver pubblicato video, la causa chiede invece danni a TikTok per il design del suo prodotto, che indirizza i bambini ai video.
In una dichiarazione, il team legale dei genitori presso il Social Media Victims Law Center (SMVLC) ha riassunto la lunga denuncia: “La causa sostiene che il design difettoso di TikTok del suo prodotto sui social media si traduce in un prodotto che crea dipendenza, che non è sicuro per gli utenti e non riesce per avvertire i minori e i loro genitori che TikTok crea dipendenza e inserisce nella loro pagina “For You” contenuti dannosi che potrebbero mettere in pericolo il loro benessere”.
TikTok non ha risposto immediatamente alla richiesta di commento della stampa, ma un portavoce di TikTok ha detto al New York Times che “la società non avrebbe commentato il proseguimento del contenzioso”. Il portavoce si è anche collegato a una precedente dichiarazione dell’azienda alla rivista People su una bambina di 10 anni morta anche lei dopo aver tentato la Blackout Challenge.
A quel tempo, TikTok disse che la “sfida inquietante” era precedente alla loro piattaforma e non era mai diventata “una tendenza TikTok”. Esprimendo “le più profonde condoglianze” alla famiglia colpita in quel caso, TikTok ha promesso di “rimanere vigile nel nostro impegno per la sicurezza degli utenti” e di “rimuovere immediatamente i contenuti correlati se trovati”.
La causa racconta una storia diversa, sottolineando che “la ‘Blackout Challenge’ al momento non può essere trovata sul prodotto di social media di TikTok”, il che dimostra che i video avrebbero potuto essere rimossi dopo che TikTok ha appreso della prima morte. Invece, la società ha scelto di non intraprendere questa o qualsiasi altra azione precedente per limitare l’esposizione dei bambini alla sfida, anche se “il costo per incorporare la verifica dell’età e dell’identità nel prodotto di TikTok sarebbe trascurabile”.
I genitori vogliono che TikTok paghi per la dipendenza dei loro figli, chiedendo un processo con giuria per decidere se il design di TikTok deve cambiare. I danni richiesti in questo momento non sono specificati, ma dovrebbero coprire le perdite immateriali subite dai bambini prima della loro morte, così come la perdita della “capacità di guadagno futura” e delle “normali attività, attività e piaceri” di ciascun bambino.
“TikTok deve essere ritenuto responsabile per aver inviato contenuti mortali a queste due ragazze”, ha affermato l’avvocato di SMVLC Matthew P. Bergman, che fa parte del team legale dei genitori. “TikTok ha investito miliardi di dollari per progettare intenzionalmente prodotti che promuovono contenuti pericolosi che sa essere pericolosi e possono provocare la morte dei suoi utenti”.
Cosa avrebbe potuto fare TikTok?
I genitori che fanno causa a TikTok affermano che è ovvio sapere quando i bambini pubblicano video di se stessi e che sono troppo giovani per TikTok. La causa afferma che la piattaforma sa che “centinaia di migliaia di bambini di appena 6 anni stanno attualmente utilizzando il suo prodotto di social media”, ma non tenta di chiudere gli account per gli utenti di età inferiore ai 12 anni perché ciò diminuirebbe le entrate pubblicitarie dell’azienda.
“TikTok dispone di informazioni e conoscenze che possono determinare con ragionevole certezza l’età, le abitudini e altre informazioni personali di ciascun utente, indipendentemente dalle informazioni fornite dall’utente al momento della configurazione dell’account”, afferma il reclamo. “In altre parole, TikTok sa quando un utente afferma di avere 21 anni, ma in realtà ne ha 12”.
Tuttavia, tenere i bambini sotto i 13 anni fuori da TikTok non è l’unica opzione. La causa afferma che ci sono molte azioni che TikTok avrebbe potuto intraprendere per salvare vite umane dopo il primo rapporto del gennaio 2021 di un bambino che muore dopo aver tentato la “Blackout Challenge”.
Alcuni di questi passaggi includono l’aggiunta di un processo per la verifica dell’età e dell’identità al momento della registrazione in modo che TikTok possa notificare ai genitori l’utilizzo della loro app e impedire a contenuti come i video di Blackout Challenge di raggiungere i feed dei bambini.
Aggiungendo questa funzionalità, TikTok potrebbe anche rendere la sua piattaforma meno avvincente per i bambini limitando la frequenza con cui possono accedere all’app o per quanto tempo possono scorrere in una singola sessione o addirittura sospendere il servizio di notte.
Invece di esplorare una di queste opzioni, la denuncia afferma che TikTok non ha fatto nulla nonostante sapesse che “la micidiale ‘Blackout Challenge’ si stava diffondendo attraverso la loro app e che il loro algoritmo stava alimentando in modo specifico la “Blackout Challenge” ai bambini, compresi quelli che sono morti.” Dice che TikTok ha sostanzialmente fatto il contrario determinando specificamente che la Blackout Challenge era un contenuto “appropriato e adatto ai bambini piccoli”.
La causa afferma che il problema è più grande della rimozione dei video di Blackout Challenge da TikTok. Nonostante pubblicizzi l’app come “sicura e divertente per tutte le età”, TikTok promuove molti video pericolosi per i giovani utenti, ed è per questo che la causa sfida il design del prodotto di TikTok piuttosto che perseguire TikTok o i suoi creatori di contenuti per aver spinto i contenuti virali.
Oltre alla Blackout Challenge, la causa descrive più di 20 sfide considerate pericolose per i bambini che incitano i giovani utenti a fare di tutto, dal fare un viaggio allucinatorio prendendo troppo Benadryl per darsi fuoco.
Poiché il reclamo sostiene che il problema è il design dell’app e non il contenuto video, TikTok non è protetto da leggi che vietano agli utenti di citare in giudizio o fare altre rivendicazioni legali contro società tecnologiche per l’hosting di video ritenuti pericolosi o offensivi.
“TikTok potrebbe adempiere manifestamente al suo dovere legale di progettare un prodotto social ragionevolmente sicuro e fornire avvisi adeguati sui pericoli prevedibili derivanti dall’uso del prodotto di TikTok senza alterare, eliminare o modificare il contenuto di un singolo post o comunicazione di terze parti”, dice la causa.
Invece della libertà di parola, la causa riguarda le responsabilità dei prodotti TikTok, la negligenza e la violazione del California Consumer Legal Remedies Act da parte degli utenti che creano dipendenza, costringendoli a trascorrere più tempo possibile su TikTok e spingendoli a impegnarsi in comportamenti rischiosi. TikTok non rivela che la partecipazione alle sfide potrebbe causare la morte, secondo la causa e premiare l’impegno con video pericolosi.
L’unico motivo addotto per giustificare il design di TikTok: non è altrettanto redditizio progettare il prodotto in un altro modo. I genitori in lutto affermano che il suo modello di business dipende dalla dipendenza dei bambini.
“TikTok spende milioni in ricerca, analisi e sperimentazione con i bambini piccoli per trovare modi per rendere il suo prodotto più attraente e avvincente per queste fasce d’età, poiché queste fasce d’età sono viste come la chiave della redditività a lungo termine di TikTok e del dominio sul mercato”, dice la denuncia.
