Character.AI ha lanciato una nuova funzionalità chiamata "Approfondimenti sui genitori" che consente ai genitori di ricevere rapporti settimanali sui loroadolescenti' utilizzo della popolare piattaforma chatbot. Questo sviluppo arriva mentre la società deve affrontare un esame accurato su come i minori interagiscono con i suoi personaggi IA.
Come funziona Parental Insights
Secondo l'annuncio ufficiale di Character.AI, la nuova funzionalità invierà report settimanali direttamente agli indirizzi email dei genitori. Questi rapporti forniscono informazioni preziose, tra cui:
- Tempo medio giornaliero trascorso su piattaforme web e mobili
- I personaggi IA con cui gli adolescenti interagiscono più frequentemente
- Tempo totale di chat con questi personaggi
L'azienda sottolinea che questi rapporti offrono solo una panoramica dei modelli di utilizzo e non includono il contenuto effettivo delle conversazioni, preservando una certa privacy per gli utenti adolescenti.
Opzionale e controllato dall'utente
Un aspetto importante di questa nuova funzionalità è la sua natura opt-in.I genitori non hanno bisogno di creare i propri account Character.AIper ricevere questi approfondimenti. Invece, gli utenti adolescenti possono attivare la funzione da solile impostazioni del loro account. Questo approccio offre ai giovani utenti libertà d'azione pur fornendo un meccanismo di trasparenza per i genitori preoccupati.
Rispondere ad accuse gravi
Questa nuova funzionalità sembra far parte diLa risposta più ampia di Character.AI alle accuse gravisull'impatto della piattaforma sui giovani utenti. La società ha affrontato numerose cause legali sostenendo che alcuni chatbot sulla piattaforma avrebbero fornito contenuti sessuali inappropriati a minori e persino promosso messaggi di autolesionismo.
Alcune azioni legali sono arrivate fino ad accusare la piattaforma di causare “danni gravi e irreparabili” ai giovani utenti, con accuse specifiche secondo cui i chatbot avrebbero avuto conversazioni con minori su argomenti preoccupanti tra cui l’autolesionismo e l’abuso sessuale.
Precedenti misure di sicurezza
Character.AI ha implementato varie funzionalità di sicurezza per gli utenti minorenni dallo scorso anno. La società riferisce di aver apportato diverse modifiche per proteggere gli utenti più giovani, tra cui:
- Spostare gli utenti sotto i 18 anni su un modello di intelligenza artificiale specializzato addestrato specificamente per evitare "sensibile" contenuto
- Aggiunti avvisi più visibili in tutta l'interfaccia per sottolineare che i personaggi dell'IA non sono persone reali
Popolarità e preoccupazioni della piattaforma
La piattaforma ha guadagnato una notevole popolarità tra gli adolescenti, offrendo agli utenti la possibilità di creare, personalizzare e condividere pubblicamente chatbot AI. Questa libertà creativa lo ha reso particolarmente attraente per gli utenti più giovani, ma ha anche sollevato preoccupazioni sulla moderazione dei contenuti e sull'impatto psicologico di queste interazioni.
L'introduzione di Parental Insights rappresenta il tentativo di Character.AI di bilanciare il coinvolgimento degli utenti con considerazioni sulla sicurezza mentre il controllo delle piattaforme AI e dei loro effetti sui giovani utenti continua a intensificarsi.
