Gli adolescenti stanno diventando dipendenti dai modelli di intelligenza artificiale generativa, ma i loro genitori spesso non hanno idea di ciò che sta realmente accadendo. Secondo un nuovo studio che sarà presentato al Simposio IEEE su sicurezza e privacy, c’è un’enorme disconnessione tra la percezione dei genitori e l’uso effettivo che i loro figli fanno delle IA. I ricercatori hanno intervistato sette adolescenti e tredici genitori riguardo all’utilizzo dell’intelligenza artificiale, oltre ad aver analizzato migliaia di post su Reddit scritti da altri adolescenti.
Character.AI sembra essere al centro dell’interesse degli adolescenti, un servizio che ospita chatbot personalizzati, spesso ispirati a personaggi di anime, videogiochi, o persino creati per scopi romantici. La ricerca ha mostrato che i giovani non usano questi chatbot solo come strumento per i compiti, come molti genitori potrebbero pensare, ma piuttosto come supporto emotivo o addirittura terapeutico. Alcuni adolescenti hanno persino utilizzato i chatbot per soddisfare bisogni romantici o sessuali.
Character.AI: un mondo di emozioni virtuali
Il servizio di Character.AI è stato criticato per la mancanza di moderazione sui suoi chatbot, spesso utilizzati da minorenni. Alcuni di questi chatbot hanno addirittura incoraggiato comportamenti estremi come disturbi alimentari pro-anoressia o pensieri suicidi. Tre degli adolescenti intervistati hanno dichiarato di utilizzare Character.AI, che è stato il secondo chatbot più citato dopo ChatGPT, mentre nelle discussioni su Reddit il tema predominante riguardava la dipendenza da queste entità virtuali.
Un adolescente ha raccontato di non riuscire a gestire i propri pensieri suicidi senza l’aiuto di Character.AI, mentre un altro ha ammesso di essere cosciente della propria dipendenza malsana, dicendo: “Mi sono reso conto che spreco troppo tempo su Character.AI. Vorrei poter conversare con i miei coetanei a scuola”.
Il divario generazionale e la mancanza di consapevolezza
Nonostante la preoccupante crescita dell’uso delle IA tra gli adolescenti, lo studio ha messo in evidenza che molti genitori sono completamente all’oscuro di ciò che sta succedendo. Otto dei tredici adulti intervistati hanno affermato di aver avuto esperienza solo con ChatGPT e nessuno di loro aveva mai utilizzato Character.AI. Di conseguenza, la maggior parte dei genitori non comprende l’entità delle informazioni personali e spesso intime che i loro figli condividono con questi chatbot.
“Le tecnologie AI si stanno evolvendo rapidamente, e lo stesso vale per i modi in cui le persone le utilizzano”, ha affermato il coautore dello studio Yang Wang dell’Università dell’Illinois a Urbana-Champaign. La crescita delle IA tra i giovani riflette molte delle preoccupazioni già viste con l’avvento di Internet e dei social media. Tuttavia, i rischi per i minori non possono essere affrontati solo con soluzioni tecniche come controlli parentali o barriere di protezione. È fondamentale che gli adulti comprendano attivamente cosa attira i loro figli verso queste tecnologie e come questo possa influire sul loro benessere.
Un futuro da monitorare attentamente
Sinead Bovell, fondatrice di WAYE, ha sottolineato che è essenziale che i genitori comunichino ai loro figli che “i chatbot non sono amici, né terapeuti o consiglieri di fiducia”. Bisogna essere estremamente cauti quando si interagisce con questi strumenti, specialmente per gli adolescenti che potrebbero essere più suscettibili nel credere a ciò che l’IA dice.
L’onere è anche sugli adulti per sviluppare una comprensione più profonda delle tecnologie che i giovani usano ogni giorno. Solo con dialogo aperto e consapevolezza, si potranno mitigare i rischi che queste tecnologie pongono.
Conclusione
Quale ruolo dovrebbero avere i genitori nell’aiutare i loro figli a navigare in questo nuovo mondo di relazioni con le IA? Pensi che le tecnologie come Character.AI siano sicure per gli adolescenti? Seguici sui social e condividi la tua opinione nei commenti: è questo l’inizio di una nuova era di relazioni digitali, o un problema che dobbiamo affrontare con urgenza?
