Con Provvedimento del 2 febbraio 2023 il Garante privacy ha disposto, con effetto immediato, lo stop a “Replika”, il chatbot dotato di un’interfaccia scritta e vocale, che basandosi sull’intelligenza artificiale genera un amico virtuale.
Troppi i rischi, secondo il Garante, per i minori e per le persone emotivamente fragili.
Secondo il Garante privacy l'”amico virtuale”, presentato come in grado di migliorare il benessere emotivo dell’utente, aiutandolo a comprendere i propri pensieri e calmare l’ansia attraverso la gestione dello stress, la socializzazione e la ricerca dell’amore, avrebbe delle caratteristiche che, intervenendo sull’umore della persona, potrebbero accrescere i rischi per i soggetti ancora in una fase di sviluppo o in stato di fragilità emotiva.
Manca, inoltre, un meccanismo di verifica dell’età: filtri per i minori, ma anche blocchi dell’app di fronte a dichiarazioni in cui l’utente espliciti la propria minore età.
Oltre a dover interrompere il trattamento dei dati degli utenti italiani la società statunitense dovrà comunicare, entro 20 giorni, le misure intraprese in attuazione di quanto richiesto dal Garante, pena una sanzione fino a 20 milioni di euro o fino al 4% del fatturato globale annuo.
