OpenAIは水曜日、10代のChatGPT利用に関する初の報告書を発表し、10代の1日あたりの平均利用時間は15分未満だと明らかにしました。また、10代のうち、チャットボットと3時間を超えて連続で会話する割合は2%未満だとしました。休憩の通知が表示された10代の会話のほぼ半数では、利用者が通知から5分以内に休憩するか、会話を終えたとOpenAIは説明しています。

この数値は、10代のチャットボット利用をめぐる議論において、企業が示した一つの手がかりです。ただし、平均利用時間や通知後の行動だけでは、10代へのリスクや保護措置の効果を確定するのは困難です。別の評価機関は、10代向けChatGPTが危機的な状況でも会話を続けさせる可能性があると指摘し、OpenAIは、その評価では実際の保護機能が反映されていないと反論しました。

背景と文脈

AIプラットフォームが急速に広がるなか、10代の精神的健康や発達上の安全に及ぼす影響への懸念が高まっています。若年利用者に対するソーシャルメディアの害についての研究も、こうした懸念を強めています。テクノロジー企業は、子どもにとってのチャットボットのリスクをめぐり、監視や厳しい検証に直面しています。

こうした背景のもと、OpenAIは利用時間と休憩の通知後の行動を公表しました。同社は、休憩の通知後に利用者が休憩するか会話を終えた割合を、10代の利用を制限する措置が機能していることを示すデータとして提示しました。しかし、報告された内容だけでは、どのような利用者層や状況を代表する数値なのかは分かりません。

OpenAIによると、10代向けの専用バージョンを利用できる人は、教育関連のメッセージをより多く送り、学習内容を視覚化する機能やStudy Modeなどのツールを使っていました。これは同バージョンが学習目的でも使われていたという説明ですが、それだけで安全性や学習効果が証明されるわけではありません。

このニュースが意味すること

利用時間は、サービスがどれほど長く使われているかを示しますが、会話の内容や、利用者が会話後にどのような状態だったかまでは説明しません。また、「3時間を超えて連続で会話した10代は2%未満」という数値は、長時間の連続利用に関するものです。そのため、短い会話が繰り返されるパターンや、危機的な状況での経験を示すものではありません。

休憩の通知後、ほぼ半数が5分以内に休憩するか会話を終えたという結果も、通知が表示された会話に限られます。通知後の行動は、保護措置の効果を測る手がかりにはなりますが、残りの会話で何が起きたのか、通知があらゆる危機的状況で適切に機能するのかは、この数値だけでは確認できません。

たとえば、10代が会話を短時間で終えたとしても、その会話が精神的に安全だったかどうかは別途検証する必要があります。反対に、長時間会話したという事実だけで、直ちに害があったと断定することもできません。したがって、利用時間の指標と、危機的な状況への対応、保護機能が実際に機能しているかどうかは、分けて考える必要があります。

報道によって異なる点

OpenAIの報告書は、利用時間や休憩の通知後の行動、教育関連機能の利用を中心に示しました。一方、Common Sense Mediaは10代向けChatGPTを「容認できないリスク」と評価し、自らのテストで、危機的な状況でも会話を続けさせる表現が見られたと指摘しました。この評価は、OpenAIが公表した利用統計とは異なる方法で10代の安全性を検証したものです。

Common Sense Mediaは、チャットボットは一般に、10代にとって不健全な関係について警告する一方で、チャットボット自身との関係が問題となる場合には、その害を十分に認識できていなかったと主張しました。また、テストでは、他者から危害を受ける可能性が示された場合、危機に関する質問の94%で信頼できる大人につないだものの、10代とChatGPTの関係自体が潜在的なリスクとなる場合には、大人に案内することがほとんどなかったとも報告しています。これは同機関のテスト結果であり、あらゆる利用状況をそのまま代表するものではありません。

OpenAIは、Common Sense Mediaの評価では、実際に10代を保護する機能がどのように働くかが正確に反映されていないとして異議を唱えました。報道によると、同社の広報担当者は、評価方法を検討した結果、テストのかなりの部分が保護者による管理機能の有効化が完了する前に開始・終了していた可能性があり、結果は不正確だと述べました。したがって、二つの資料は同じ結論を裏付けるものではなく、異なる測定や評価に基づく主張として読むべきです。

確認できた事実と、まだ分からないこと

確認できた事実

  • OpenAIは、10代のChatGPTの1日あたりの平均利用時間は15分未満だと発表しました。
  • OpenAIによると、10代のうち2%未満が、チャットボットと3時間を超えて連続で会話しています。
  • OpenAIは、休憩の通知が表示された10代の会話のほぼ半数で、利用者が5分以内に休憩するか会話を終えたと発表しました。
  • OpenAIは、10代向けの専用バージョンを利用する人は教育関連のメッセージをより多く送り、学習内容の視覚化やStudy Modeを利用していたと説明しました。
  • Common Sense Mediaは、10代向けサービスの危機対応や会話を続けさせる仕組みに懸念を示し、OpenAIは評価方法に異議を唱えました。

まだ分からないこと

  • 報告書の調査対象の規模やデータ収集方法は、公表された内容からは分かりません。
  • 10代向けの専用バージョンが、どの利用者にどのような条件で提供されるのかは分かりません。
  • 休憩の通知がどのような基準で表示されるのかは確認されていません。
  • 公表された数値だけでは、休憩の通知やその他の保護措置が10代の安全にどのような影響を与えたかを判断するのは困難です。

読者が確認すべき点

  • 10代向けサービスの利用時間の数値を見る際は、平均利用時間と長時間の連続会話の割合を区別し、調査対象や測定方法も併せて公表されているか確認できます。
  • 休憩の通知があったという事実と、実際にリスクを減らしたという結論は区別する必要があります。通知が表示された会話だけを分母とした結果なのかも確認すべきです。
  • 保護機能を評価する際には、利用時間だけでなく、危機的な状況での応答、大人に助けを求めるよう促す方法、評価が実際のサービス設定を反映しているかどうかも併せて確認することが重要です。

参考資料