Character.AI は、「」という新機能をリリースしました。親の洞察」を使用すると、保護者は自分の子供の状況について毎週レポートを受け取ることができます。ティーンエイジャー' 人気のチャットボット プラットフォームの使用法。この開発は、同社が未成年者が自社のAIキャラクターとどのように交流するかについて厳しい監視に直面している中で行われた。
ペアレント・インサイトの仕組み
Character.AI の公式発表によると、新機能により毎週のレポートが保護者の電子メール アドレスに直接送信されます。これらのレポートは、次のような貴重な情報を提供します。
- Web プラットフォームとモバイル プラットフォームの両方に費やされる 1 日の平均時間
- 10代の若者が最も頻繁に交流するAIキャラクター
- これらのキャラクターとの合計チャット時間
同社は、これらのレポートは使用パターンの概要のみを提供し、実際の会話の内容は含まれておらず、10代のユーザーのプライバシーをある程度保護していることを強調しています。
オプションおよびユーザー制御
この新機能の重要な点は、オプトインの性質です。保護者は独自の Character.AI アカウントを作成する必要はありませんこれらの洞察を受け取るために。代わりに、10 代のユーザーは、次の方法で自分でこの機能をアクティブ化できます。彼らのアカウント設定。このアプローチにより、若いユーザーに主体性を与えると同時に、心配する保護者に透明性のメカニズムを提供します。
重大な申し立てへの対応
この新機能は、Character.AI の重大な申し立てに対する広範な対応プラットフォームが若いユーザーに与える影響について。同社は、プラットフォーム上の特定のチャットボットが未成年者に不適切な性的コンテンツを提供し、さらには自傷行為を含むメッセージを宣伝したとして複数の訴訟に直面している。
一部の法的措置は、チャットボットが自傷行為や性的虐待などの問題に関する未成年者との会話に関与したという具体的な申し立てとともに、このプラットフォームが若者のユーザーに「深刻かつ取り返しのつかない損害」を与えていると非難するところまで進んでいる。
これまでの安全対策
Character.AI は昨年から未成年ユーザー向けにさまざまな安全機能を実装してきました。同社は、若いユーザーを保護するために次のようないくつかの調整を行っていると報告しています。
- 18 歳未満のユーザーを、「センシティブ" コンテンツ
- AI キャラクターが現実の人間ではないことを強調するために、インターフェイス全体に目に見えるアラートを追加します。
プラットフォームの人気と懸念
このプラットフォームはティーンエイジャーの間で大きな人気を集めており、ユーザーは AI チャットボットを作成、カスタマイズし、公開共有することができます。この創造的な自由により、特に若いユーザーにとって魅力的なものとなっていますが、コンテンツのモデレーションやこれらのインタラクションによる心理的影響についての懸念も生じています。
Parental Insights の導入は、AI プラットフォームとその若者への影響に対する監視が強まり続ける中、ユーザー エンゲージメントと安全性への配慮とのバランスを取るという Character.AI の試みを表しています。
