Character.AI a lancé une nouvelle fonctionnalité appelée «Informations parentales» qui permet aux parents de recevoir des rapports hebdomadaires sur leuradolescents'utilisation de la populaire plateforme de chatbot. Cette évolution intervient alors que l’entreprise fait face à un examen minutieux de la manière dont les mineurs interagissent avec ses personnages IA.
Comment fonctionne l'analyse parentale
Selon l'annonce officielle de Character.AI, la nouvelle fonctionnalité enverra des rapports hebdomadaires directement aux adresses e-mail des parents. Ces rapports fournissent des informations précieuses, notamment :
- Temps quotidien moyen passé sur les plateformes Web et mobiles
- Les personnages IA avec lesquels les adolescents interagissent le plus fréquemment
- Temps total de conversation avec ces personnages
La société souligne que ces rapports n'offrent qu'un aperçu des modèles d'utilisation et n'incluent pas le contenu réel des conversations, préservant ainsi une certaine confidentialité pour les utilisateurs adolescents.
Facultatif et contrôlé par l'utilisateur
Un aspect important de cette nouvelle fonctionnalité est son caractère opt-in.Les parents n'ont pas besoin de créer leurs propres comptes Character.AIpour recevoir ces idées. Au lieu de cela, les utilisateurs adolescents peuvent activer la fonctionnalité eux-mêmes viales paramètres de leur compte. Cette approche donne aux jeunes utilisateurs une certaine liberté d'action tout en offrant un mécanisme de transparence aux parents concernés.
Répondre aux allégations graves
Cette nouvelle fonctionnalité semble faire partie deRéponse plus large de Character.AI aux allégations gravesconcernant l'impact de la plateforme sur les jeunes utilisateurs. La société a fait face à plusieurs poursuites judiciaires, affirmant que certains chatbots de la plateforme avaient fourni du contenu sexuel inapproprié à des mineurs et avaient même promu des messages impliquant l'automutilation.
Certaines actions en justice sont allées jusqu'à accuser la plateforme d'avoir causé « un préjudice grave et irréparable » aux jeunes utilisateurs, avec des allégations spécifiques selon lesquelles des chatbots auraient engagé des conversations avec des mineurs sur des sujets troublants, notamment l'automutilation et les abus sexuels.
Mesures de sécurité précédentes
Character.AI a mis en œuvre diverses fonctionnalités de sécurité pour les utilisateurs mineurs depuis l'année dernière. La société déclare avoir apporté plusieurs ajustements pour protéger les jeunes utilisateurs, notamment :
- Déplacer les utilisateurs de moins de 18 ans vers un modèle d’IA spécialisé formé spécifiquement pour éviter «sensible" contenu
- Ajout d'alertes plus visibles dans toute l'interface pour souligner que les personnages IA ne sont pas de vraies personnes
Popularité et préoccupations de la plateforme
La plateforme a gagné en popularité auprès des adolescents, offrant aux utilisateurs la possibilité de créer, de personnaliser et de partager publiquement des chatbots IA. Cette liberté de création l'a rendu particulièrement attrayant pour les jeunes utilisateurs, mais a également soulevé des inquiétudes quant à la modération du contenu et à l'impact psychologique de ces interactions.
L'introduction de Parental Insights représente la tentative de Character.AI d'équilibrer l'engagement des utilisateurs avec des considérations de sécurité alors que l'examen minutieux des plateformes d'IA et de leurs effets sur les jeunes utilisateurs continue de s'intensifier.
![11 correctifs faciles aux contacts AirDrop uniquement qui ne fonctionnent pas [Dernières informations]](https://elsefix.com/statics/image/placeholder.png)
