Character.AI spustila novou funkci s názvem „Rodičovské statistiky“, který umožňuje rodičům dostávat týdenní zprávy o jejichteenagerů' použití oblíbené platformy chatbotů. Tento vývoj přichází v době, kdy společnost čelí kontrole, jak nezletilí komunikují s jejími postavami AI.
Jak Parental Insights funguje
Podle oficiálního oznámení Character.AI bude nová funkce zasílat týdenní zprávy přímo na e-mailové adresy rodičů. Tyto přehledy poskytují cenné informace, včetně:
- Průměrný denní čas strávený na webových i mobilních platformách
- Nejčastěji komunikují teenageři s postavami AI
- Celková doba chatování s těmito postavami
Společnost zdůrazňuje, že tyto zprávy nabízejí pouze přehled vzorců používání a nezahrnují skutečný obsah konverzací, čímž je zachováno určité soukromí pro dospívající uživatele.
Volitelné a ovládané uživatelem
Důležitým aspektem této nové funkce je její opt-in charakter.Rodiče si nemusí vytvářet vlastní účty Character.AIzískat tyto poznatky. Místo toho mohou mladiství uživatelé tuto funkci aktivovat saminastavení jejich účtu. Tento přístup dává mladým uživatelům prostor a zároveň poskytuje mechanismus transparentnosti pro dotčené rodiče.
Reakce na závažná obvinění
Zdá se, že tato nová funkce je součástíŠirší reakce AI na vážná obviněnío dopadu platformy na mladé uživatele. Společnost čelila několika žalobám, které tvrdily, že někteří chatboti na platformě poskytovali nezletilým nevhodný sexuální obsah a dokonce propagovali zprávy zahrnující sebepoškozování.
Některé právní kroky zašly tak daleko, že obvinily platformu z toho, že způsobila „vážnou a nenapravitelnou újmu“ mladým uživatelům, s konkrétními obviněními, že chatboti vedli rozhovory s nezletilými o znepokojivých tématech včetně sebepoškozování a sexuálního zneužívání.
Předchozí bezpečnostní opatření
Character.AI od loňského roku implementuje různé bezpečnostní prvky pro nezletilé uživatele. Společnost uvádí, že provedla několik úprav na ochranu mladších uživatelů, včetně:
- Přesun uživatelů mladších 18 let na specializovaný model umělé inteligence vyškolený speciálně tak, aby se zabránilo „citlivý“obsah
- Přidání viditelnějších upozornění do rozhraní, aby se zdůraznilo, že postavy AI nejsou skuteční lidé
Popularita a obavy platformy
Platforma si získala značnou oblibu mezi teenagery a nabízí uživatelům možnost vytvářet, upravovat a veřejně sdílet chatboty s umělou inteligencí. Díky této tvůrčí svobodě je zvláště přitažlivý pro mladší uživatele, ale také vyvolal obavy ohledně moderování obsahu a psychologického dopadu těchto interakcí.
Zavedení Parental Insights představuje pokus Character.AI vyvážit zapojení uživatelů s bezpečnostními ohledy, protože kontrola platforem AI a jejich dopadů na mladé uživatele se neustále zintenzivňuje.
