Apple ha lanciato una nuova funzione AI con l’ultimo aggiornamento di iOS che ha fatto alzare più di qualche sopracciglio. Tra le tante novità, spicca la possibilità di ricevere riassunti generati dall’AI dei messaggi non letti. Fin qui tutto normale, no? Ma come spesso accade con la tecnologia, l’effetto collaterale è dietro l’angolo.
Ecco che entra in scena la nuova star del momento: il riassunto di un messaggio di rottura. Sì, hai letto bene. Un uomo ha condiviso su X uno screenshot che ha subito fatto il giro del web. La sua ex ragazza gli ha mandato una serie di messaggi per chiudere la loro relazione, ma il riassunto dell’AI ha trasformato quel doloroso addio in una sorta di lista puntata fredda e spietata, degna di un verbale di riunione su Zoom.
Il messaggio riassunto? Un freddissimo: “Non più in una relazione; vuole le sue cose dall’appartamento”. Brutale, no?
Il programmatore Nick Spreen, che ha condiviso la storia, ha aggiunto un tocco di triste ironia: “Sì, è successo davvero… ed era il giorno del mio compleanno”. Non ci stupisce che il post sia diventato virale in poche ore. Una combinazione di distopia e umorismo nero che solo l’era dell’AI poteva offrirci.
Quando l’AI diventa troppo fredda (ci si può fidare?)
Spreen ha confermato la veridicità dei messaggi ad Ars Technica, spiegando che i messaggi reali erano qualcosa tipo: “Non posso credere che tu l’abbia fatto, siamo finiti, voglio le mie cose”. Ma è stato proprio il riassunto della situazione da parte dell’AI a renderla surreale e distopica.
Lui stesso ha ammesso che in un certo senso il distacco emotivo creato dall’AI non è stato un male: “È come avere un assistente personale che rimane professionale e ti sostiene anche nelle situazioni più terribili.” Ma sì, ha aggiunto, “è stato soprattutto qualcosa di irreale e distopico.”
Questo episodio ci fa riflettere: ci sono conversazioni che non dovrebbero essere mediate da un chatbot? Se un addio è già abbastanza difficile, immagina cosa potrebbe succedere con messaggi su situazioni ben più delicate, come una perdita familiare o una crisi personale. Un riassunto AI potrebbe sembrare freddo e alienante, trasformando momenti che richiedono umanità e tatto in semplici note da meeting aziendale.
Una lezione per il futuro (quanto possiamo fidarci dell’AI?)
Apple ha fatto del suo meglio per migliorare l’esperienza utente, ma questo episodio ci ricorda che la tecnologia può essere fredda e insensibile in contesti in cui serve empatia. La funzione AI è senza dubbio utile in molti casi, ma forse è il momento di chiedersi se ci sono confini da non oltrepassare.
Quindi, il futuro della messaggistica sarà nelle mani di assistenti AI sempre più avanzati? O dobbiamo mantenere un tocco umano, almeno nelle conversazioni che contano davvero?
Facci sapere cosa ne pensi! Seguici sui social e condividi l’articolo, vogliamo sentire anche la tua esperienza!
