Character.AIは18歳未満のユーザーのためにオープンエンドのチャットを制限し、安全対策を導入しました

概要

Character AIは、法律家や家族からの圧力を受けて、プラットフォームがティーンの死亡につながったと主張することから、11月下旬から18歳未満の誰もAIチャットボットとのオープンエンドの会話を禁止すると発表しました。

AI搭載のチャットボットプラットフォーム、Character.AIは、法令制定者や家族からの懸念を受けて、18歳未満のユーザーがそのAIチャットボットとオープンエンドの会話を行うことができなくなると発表しました。

変更は11月25日までに発効する予定です。その間、プラットフォームは18歳未満のユーザー向けに、キャラクターを使った動画制作、ストーリー作成、インタラクティブなストリームなどのクリエイティブな活動を続けることを可能にする修正された体験を導入する計画です。この移行期間中、18歳未満のユーザーのチャットセッションは1日2時間に制限され、完全な実施に向けて数週間のうちにさらなる時間の短縮が予想されます。

さらに、Character.AIは、ユーザーに年齢に適した機能を提供するために、新しい年齢確認措置を実施します。同社は、内部年齢確認システムを開発し、正確性と信頼性を高めるために、Personaを含むサードパーティツールと統合します。

このプラットフォームは、AIエンターテインメントにおける安全性の整合性を進めることに専念する独立した非営利団体であるAI安全ラボの設立と資金提供を発表しました。このラボは、革新的な安全性アプローチの開発、外部の専門家との協力、研究成果の共有に焦点を当てます。Character.AIは、このラボが他のAIアプリケーションに適用されるのと同じレベルの安全性に焦点を当てた注意をAIエンターテインメントに提供することを意図しており、この取り組みに技術会社、学者、研究者、政策立案者を巻き込む計画です。

Character.AIが規制上の懸念に対処するために18歳未満のプラットフォームを更新し、ティーンの安全性を向上

Character.AIは、10代のユーザーとのAIのやり取りに関する懸念の高まりを受けて、18歳未満のユーザー向けのプラットフォームに変更を発表しました。最近の報告や規制当局からの問い合わせにより、コンテンツコントロールが整っている場合でも、オープンエンドのAI会話に関連する潜在的なリスクが強調されています。規制当局、安全専門家、親からのフィードバックをレビューした後、同社は18歳未満の体験を修正することが必要であると判断し、若いユーザーをより良く保護することにしました。

これらの調整はプラットフォームにとって重要なステップを表し、一般的に類似のサービスが取った措置よりも慎重です。目標は、ティーンユーザーの安全を優先しながら、創造性、探求、エンゲージメントの機会を提供することです。Character.AIは、安全の専門家、規制当局、その他の利害関係者と引き続き協力し、ユーザー保護がプラットフォームが新しい機能を開発する際に創造的表現やコミュニティインタラクションを促進する中心であり続けることを保証するつもりです。

Character.AIは、ユーザーが大規模な言語モデルに基づいたAI駆動のキャラクターやボットペルソナと対話し、作成することを可能にする会話型AIプラットフォームです。