Character.AI ha lanzado una nueva función llamada "Perspectivas de los padres”que permite a los padres recibir informes semanales sobre suadolescentes'uso de la popular plataforma chatbot. Este desarrollo se produce cuando la compañía enfrenta un escrutinio sobre cómo interactúan los menores con sus personajes de IA.
Cómo funciona la información de los padres
Según el anuncio oficial de Character.AI, la nueva función enviará informes semanales directamente a las direcciones de correo electrónico de los padres. Estos informes proporcionan información valiosa que incluye:
- Tiempo promedio diario invertido en plataformas web y móviles
- Los personajes de IA con los que los adolescentes interactúan con más frecuencia
- Tiempo total de conversación con estos personajes.
La compañía enfatiza que estos informes solo ofrecen una descripción general de los patrones de uso y no incluyen el contenido real de las conversaciones, preservando cierta privacidad para los usuarios adolescentes.
Opcional y controlado por el usuario
Un aspecto importante de esta nueva característica es su naturaleza voluntaria.Los padres no necesitan crear sus propias cuentas Character.AIpara recibir estas ideas. En cambio, los usuarios adolescentes pueden activar la función ellos mismos a través dela configuración de su cuenta. Este enfoque brinda a los usuarios jóvenes capacidad de acción y, al mismo tiempo, proporciona un mecanismo de transparencia para los padres preocupados.
Respondiendo a acusaciones graves
Esta nueva característica parece ser parte deLa respuesta más amplia de Character.AI a acusaciones gravessobre el impacto de la plataforma en los usuarios jóvenes. La compañía se ha enfrentado a múltiples demandas alegando que ciertos chatbots en la plataforma han proporcionado contenido sexual inapropiado a menores e incluso han promovido mensajes que implican autolesiones.
Algunas acciones legales han llegado incluso a acusar a la plataforma de causar “daño grave e irreparable” a usuarios jóvenes, con acusaciones específicas de que los chatbots entablaron conversaciones con menores sobre temas preocupantes como la autolesión y el abuso sexual.
Medidas de seguridad anteriores
Character.AI ha estado implementando varias características de seguridad para usuarios menores de edad desde el año pasado. La compañía informa haber realizado varios ajustes para proteger a los usuarios más jóvenes, que incluyen:
- Trasladar a los usuarios menores de 18 años a un modelo de IA especializado y entrenado específicamente para evitar "sensible" contenido
- Agregar alertas más visibles en toda la interfaz para enfatizar que los personajes de IA no son personas reales.
Popularidad e inquietudes de la plataforma
La plataforma ha ganado una gran popularidad entre los adolescentes y ofrece a los usuarios la posibilidad de crear, personalizar y compartir públicamente chatbots de IA. Esta libertad creativa lo ha hecho especialmente atractivo para los usuarios más jóvenes, pero también ha generado preocupaciones sobre la moderación del contenido y el impacto psicológico de estas interacciones.
La introducción de Parental Insights representa el intento de Character.AI de equilibrar la participación del usuario con consideraciones de seguridad a medida que continúa intensificándose el escrutinio de las plataformas de IA y sus efectos en los usuarios jóvenes.
