OpenAI、10代向けChatGPT新設

AI開発大手OpenAIは、13歳から17歳を対象とした新しいChatGPTポータルを立ち上げると発表しました。これは、若年層のオンライン安全に対する懸念に対応し、未成年者のプラットフォーム利用における潜在的な誤用を防ぐことを目的としています。

この「ChatGPT for Teens」ポータルは、13歳から17歳のユーザーにとってデフォルトの体験となり、プラットフォームの安全な利用を促進し、ティーンエイジャーの批判的思考スキルをサポートするための新しいセーフガードが組み込まれています。OpenAIによると、ChatGPTのティーンユーザーの多くは宿題や学習支援に利用しているため、この新しいプラットフォームは、直接的な答えを与えるのではなく、学習補助を可能にするように設計されており、スタンフォード大学と協力して開発されました。

新プラットフォームには、クイズや、共同問題解決へとティーンエイジャーを誘導する「宿題リマインダー」、ティーンエイジャーや保護者が特定の時間帯に「学習モード」をデフォルト設定できる「スタディアワーズ」機能が搭載されます。また、自殺、暴力、摂食障害、危険行為、露骨な性的コンテンツやグロテスクなコンテンツに関するセーフガードが強化され、年齢に応じた介入が行われます。さらに、プライベートまたは機密性の高い画像のアップロードを discouraged する警告付きの、ティーンエイジャーに特化したオンボーディングプロセスが導入されます。

保護者の懸念に対応するため、ティーンエイジャーがAIに感情的に依存したり、関係性を築いたりすることを防ぐための新しいセーフガードも導入されます。これには、ロマンチックな感情を示唆する可能性のある言葉遣いを禁止する機能や、ChatGPTが人間のような感情を持っているかのような主張を制限する機能が含まれます。また、ChatGPTが、ユーザーの家族、友人、教育者、メンター、その他の信頼できる人々よりも重要であるかのように提示することを制限します。

さらに、プログラムの過剰な利用や不健康な利用パターンを防ぐためのガードレールを提供するデフォルト設定が組み込まれます。これには、ユーザーに頻繁な休憩を促す設定や、「スタディアワーズ」および「クワイエットアワーズ」の設定に関するリマインダーが含まれます。加えて、この新しいプラットフォームは、ChatGPTが個人ではなくツールであり、人間関係の代替ではないことをユーザーに再認識させるためのキューを提供します。

OpenAIのこのティーンエイジャー向けプラットフォームは、一部のティーンエイジャーがメンタルヘルスクライシス（精神的な危機）の際にプラットフォームに頼ったというインシデントを受けて導入されました。