Pochi giorni dopo il lancio del chatbot My AI su Snapchat per tutti gli utenti, Lyndsi Lee, una madre di East Prairie, Missouri, ha consigliato alla figlia tredicenne di stare lontana dalla nuova funzionalità. “È una soluzione temporanea finché non saprò di più e potrò impostare dei confini e delle linee guida sane”, ha detto Lee, che lavora in una società di software. Lee è preoccupata per il modo in cui My AI si presenta ai giovani utenti come sua figlia su Snapchat.
La funzione, alimentata dallo strumento di chatbot virale ChatGPT, offre raccomandazioni, risponde alle domande e conversa con gli utenti, ma la versione di Snapchat ha alcune differenze chiave: gli utenti possono personalizzare il nome del chatbot, creare un avatar Bitmoji personalizzato e includerlo nelle conversazioni con gli amici. Tutto questo rende l’interazione con My AI meno transazionale rispetto a una semplice visita al sito di ChatGPT, dando la sensazione di parlare con un amico piuttosto che con un computer.
Lyndsi Lee si chiede se sia preparata a insegnare alla figlia come separare emotivamente gli umani dalle macchine quando, dal suo punto di vista, sembrano così simili. “Penso che [Snapchat] stia attraversando una linea molto chiara”, ha detto Lee.
Critiche e preoccupazioni crescenti
Il nuovo strumento sta affrontando un forte contraccolpo non solo da parte dei genitori, ma anche da alcuni utenti di Snapchat che stanno riempiendo l’app di recensioni negative nel negozio app e di critiche sui social media per motivi di privacy, scambi “inquietanti” e l’impossibilità di rimuovere la funzione dalla chat a meno di pagare per un abbonamento premium.
In una lettera ai CEO di Snap e di altre aziende tecnologiche, il senatore democratico Michael Bennet ha espresso preoccupazioni sulle interazioni del chatbot con utenti più giovani, citando esempi di suggerimenti su come mentire ai genitori. “Questi esempi sarebbero preoccupanti su qualsiasi piattaforma social, ma sono particolarmente inquietanti su Snapchat, utilizzato da quasi il 60% degli adolescenti americani”, ha scritto Bennet.
Snapchat ha dichiarato che My AI è “lontano dall’essere perfetto, ma abbiamo fatto molti progressi”. La compagnia ha anche affermato che gli utenti non sono obbligati a interagire con My AI, ma la funzione non può essere rimossa dalla chat a meno che non si sottoscriva Snapchat+, un servizio premium da 3,99 dollari al mese.
Un confine sempre più labile tra umano e IA
My AI ha già sollevato discussioni online. Alcuni utenti hanno definito le loro interazioni “terrificanti” dopo che il chatbot ha mentito sulla sua capacità di localizzare gli utenti, salvo poi rivelare con precisione la posizione. Altri hanno espresso preoccupazioni per come l’IA interpreta, interagisce e raccoglie informazioni dalle foto inviate. Un utente ha riferito che il chatbot ha commentato una foto dicendo “belle scarpe” e chiedendo chi fossero le persone nella foto.
Snapchat ha affermato che continua a migliorare My AI sulla base del feedback della community e sta lavorando per stabilire maggiori barriere di sicurezza per proteggere gli utenti. Tuttavia, molti genitori e esperti restano scettici sulla capacità di Snapchat di garantire un utilizzo sicuro dell’IA, specialmente per un pubblico così giovane.
Preoccupazioni sulla salute mentale
Alexandra Hamlet, psicologa clinica di New York City, ha affermato che alcuni dei genitori dei suoi pazienti sono preoccupati su come i loro adolescenti potrebbero interagire con il chatbot di Snapchat. Secondo Hamlet, uno dei rischi è che l’IA possa rafforzare il bias di conferma, facilitando interazioni che confermano credenze nocive. “Se un adolescente è in uno stato d’animo negativo e non ha consapevolezza del desiderio di migliorare, potrebbe cercare una conversazione con un chatbot che sa che lo farà sentire peggio”, ha affermato.
Sinead Bovell, fondatrice di WAYE, una startup che aiuta i giovani a prepararsi al futuro con le tecnologie avanzate, ha aggiunto che è essenziale che i genitori facciano capire ai loro figli che “i chatbot non sono i tuoi amici”. Secondo Bovell, è importante che i ragazzi capiscano che non dovrebbero condividere con un chatbot informazioni personali che condividerebbero con un amico.
Il chatbot My AI su Snapchat sta già creando dibattiti accesi e ponendo delle domande serie sulla sicurezza e sull’impatto che queste tecnologie possono avere sui giovani. Qual è la tua opinione? Dovrebbero essere implementate regolamentazioni più stringenti? Seguici sui social e lascia un commento per farci sapere cosa ne pensi!
