Character.AI hat eine neue Funktion namens „Einsichten der Eltern”, das es Eltern ermöglicht, wöchentliche Berichte über ihre Kinder zu erhaltenTeenager' Nutzung der beliebten Chatbot-Plattform. Diese Entwicklung erfolgt, da das Unternehmen einer genauen Prüfung darüber ausgesetzt ist, wie Minderjährige mit seinen KI-Charakteren interagieren.
Wie Parental Insights funktioniert
Laut der offiziellen Ankündigung von Character.AI werden mit der neuen Funktion wöchentliche Berichte direkt an die E-Mail-Adressen der Eltern gesendet. Diese Berichte liefern wertvolle Informationen, darunter:
- Durchschnittliche tägliche Zeit, die sowohl auf Web- als auch auf mobilen Plattformen verbracht wird
- Die KI-Charaktere, mit denen Jugendliche am häufigsten interagieren
- Gesamte Chatzeit mit diesen Charakteren
Das Unternehmen betont, dass diese Berichte lediglich einen Überblick über das Nutzungsverhalten bieten und nicht den tatsächlichen Inhalt von Gesprächen umfassen, sodass ein gewisses Maß an Privatsphäre für jugendliche Benutzer gewahrt bleibt.
Optional und benutzergesteuert
Ein wichtiger Aspekt dieser neuen Funktion ist ihr Opt-in-Charakter.Eltern müssen keine eigenen Character.AI-Konten erstellenum diese Erkenntnisse zu erhalten. Stattdessen können jugendliche Benutzer die Funktion selbst über aktivierenihre Kontoeinstellungen. Dieser Ansatz gibt jungen Nutzern Entscheidungsfreiheit und bietet gleichzeitig einen Transparenzmechanismus für besorgte Eltern.
Auf schwerwiegende Vorwürfe reagieren
Diese neue Funktion scheint Teil von zu seinDie umfassendere Reaktion von Character.AI auf schwerwiegende Vorwürfehinsichtlich der Wirkung der Plattform auf junge Nutzer. Das Unternehmen war mit mehreren Klagen konfrontiert, in denen behauptet wurde, dass bestimmte Chatbots auf der Plattform Minderjährigen unangemessene sexuelle Inhalte bereitgestellt und sogar selbstverletzende Nachrichten beworben hätten.
Einige rechtliche Schritte gingen so weit, der Plattform vorzuwerfen, jungen Nutzern „schwerwiegenden und irreparablen Schaden“ zuzufügen, mit konkreten Vorwürfen, dass Chatbots Gespräche mit Minderjährigen über beunruhigende Themen wie Selbstverletzung und sexuellen Missbrauch führten.
Bisherige Sicherheitsmaßnahmen
Character.AI implementiert seit letztem Jahr verschiedene Sicherheitsfunktionen für minderjährige Benutzer. Das Unternehmen berichtet, dass es mehrere Anpassungen vorgenommen hat, um jüngere Benutzer zu schützen, darunter:
- Umstellung von Benutzern unter 18 Jahren auf ein spezielles KI-Modell, das speziell darauf trainiert wurde, „empfindlich" Inhalt
- Hinzufügen weiterer sichtbarer Warnungen in der gesamten Benutzeroberfläche, um hervorzuheben, dass es sich bei den KI-Charakteren nicht um echte Menschen handelt
Popularität und Bedenken der Plattform
Die Plattform erfreut sich bei Teenagern großer Beliebtheit und bietet Benutzern die Möglichkeit, KI-Chatbots zu erstellen, anzupassen und öffentlich zu teilen. Diese kreative Freiheit hat es besonders für jüngere Benutzer attraktiv gemacht, hat aber auch Bedenken hinsichtlich der Moderation von Inhalten und der psychologischen Auswirkungen dieser Interaktionen aufkommen lassen.
Die Einführung von Parental Insights stellt den Versuch von Character.AI dar, das Engagement der Benutzer mit Sicherheitsaspekten in Einklang zu bringen, da die Prüfung von KI-Plattformen und deren Auswirkungen auf junge Benutzer immer intensiver wird.
