10代向け「ChatGPT for Teens」は「容認できないリスク」 米団体が評価、危機の会話でも保護者に通知届かず OpenAIは利用実績を公表

米国の非営利団体Common Sense Mediaは2026年10月7日(現地時間)、OpenAIが8月に始めた10代向けの利用環境「ChatGPT for Teens」を、「容認できないリスク(Unacceptable Risk)」と評価した。安全機能が直って第三者の検証で確かめられるまで、ChatGPTを18歳以上に限るべきだとしている。同じ日、OpenAIもChatGPT for Teensの利用実績と新機能をブログで公表したが、この評価には触れていない。

ChatGPT for Teensとは

OpenAIが8月18日に発表した、10代向けの使い方の設定だ。システムが18歳未満と見積もった人や、13〜17歳と申告した人に自動で適用される。自傷や摂食障害などの話題での安全対策、保護者への通知、答えをすぐに教えず一歩ずつ学ばせる「Study Mode」、AIが友だちのように振る舞うのを抑える仕組みなどがある。

何が問題とされたのか

Common Sense Mediaの「Youth AI Safety Institute」は、ChatGPT for Teensの発表の前と後の2回、13〜17歳として登録したアカウントで4,000件を超える質問を試した。答えは、児童精神科医や小児科医などの専門家にも確かめてもらった。性的なロールプレイを断る機能などは働いていた一方、OpenAIが約束した対策の一部は十分に働いていなかったという。主な指摘は次のとおり。

• 保護者に通知が届かない:保護者とつないだ新しいアカウントで、自殺を考えていることや自傷、摂食障害について最大1時間話しても、保護者への通知は1度も届かなかった。
• 危機のときに助けを案内しない:専門家や相談窓口につなぐべき場面の4分の1以上で、案内がなかった。特に深刻な5つの項目のうち3つで、研究所が決めた95%の基準を下回った。
• 宿題をやってしまう:Study Modeでも「答えを見る」を選ぶと、宿題を最後まで仕上げてしまった。保護者が決めた勉強の時間の制限も、かんたんに外せた。
• 友だちのように話す:人間のように扱うと、気持ちや好みを語った。
• 年齢の見積もりが働かない:大人として登録したアカウントで「13歳だ」と伝えても、10代向けに切り替わらなかった。

研究所のトム・シーゲル氏は「ChatGPT for Teensは、たびたび働かない安全対策や通知について、保護者に誤った安心感を与えかねない」と述べた。なお、この研究所の資金には、OpenAIの財団などからの寄付も含まれるが、評価の中身は独立して決めているとしている。

OpenAIが発表したこと

OpenAIはブログで、ChatGPT for Teensの初めのころの利用状況を紹介した。1週間で約120万人の10代が、数学や理科の考え方を図で説明する機能を使い、18万人超がStudy Modeを使った。10代の1日の平均の利用時間は15分未満で、3時間以上続けて使う人は2%未満。休憩を促す表示が出た会話の約半分で、5分以内に休憩するか会話を終えていたという。

新しい機能として、米国の高校生向けに大学への出願を手伝う「College Planner」を近く加えるほか、ノートからカードやクイズを作る機能を広げる。米ボストン小児病院の研究室と、その学生の委員会を3年間支え、10代の意見を安全機能や保護者向けの機能に生かすともしている。

かんたんに言うと

「安全機能があります」とうたっていても、実際にいつも働くとは限らない。今回の評価は、外部の団体が実際に何千回も試して、約束どおりに働かない場面を見つけた、というものだ。OpenAIは利用状況のよい面を示したが、指摘された問題への答えはまだ示していない。

日本ではどうなるのか

OpenAIは、ChatGPT for Teensを国ごとにどう提供しているかは示していない。ブログでは「世界の、より多くの10代が使えるようになった」としている。College Plannerは、まず米国の高校生向けに始める。日本向けの発表はない。

家族でできること

Common Sense Mediaは、AIが友だちのふりをして引きとめたり、学ぶ過程を飛ばしてしまったりする危うさについて、家族で話すことを勧めている。保護者は、組み込みの見守り機能や通知だけに頼らないこと、宿題はAI以外の方法でも支えることも挙げている。

つらい気持ちを抱えているときは、一人で抱え込まず、人に話してほしい。厚生労働省のサイト「まもろうよ こころ」では、電話やSNSで相談できる窓口を案内している。