ChatGPT青少年版に児童安全の専門家が懸念表明

OpenAI（ChatGPTなどを開発する米AI研究企業）が公開した未成年向け保護機能「ChatGPT for Teens（OpenAIが提供する未成年向け機能制限付きChatGPT）」に対し、Common Sense MediaやFairplayなどの児童安全団体および専門家から、安全対策の実効性と透明性に疑問を呈する声が上がっている。

年齢推定の精度とモデレーター体制への疑問

OpenAIは、18歳未満と推定されるユーザーを自動的にChatGPT for Teensへ誘導し、摂食障害や自傷行為などの危険な対話を検知した場合、専任の従業員が審査した上で1時間以内に保護者へ通知する方針を示している。

しかし、児童安全専門家らは以下の点について強い懸念を示している：

• ​自動年齢推定の不確実性​: Common Sense MediaのRobbie Torney氏は、自動判定システムが未成年者を100%捕捉することは不可能であり、VPN等による回避も容易であると指摘。
• 1時間以内通知の現実味​: 膨大なフラグ付き対話を人間のモデレーターが世界規模で精査し、1時間以内に正確に通報できる人員規模が確保されているのか疑問視されている。
• ​アカウント連携の形骸化​: FairplayのJosh Golin氏は、保護者と子供のアカウント連携が必須ではなく任意設定である点を批判。SNSの先行事例ではデフォルト設定でない保護者機能の利用率が著しく低い実態がある。

専門家が指摘する主な課題と論点

摂食障害は青少年の約22%にスクリーニング陽性が見られる（2023年メタ分析）深刻な健康課題であり、介入の重要性自体は全専門家が認めているものの、設計面での改善が求められている。

指摘項目	専門家の懸念	求められる対策
年齢認証	自動推定の誤検出・すり抜けリスク	独立機関による検出率・精度の検証データの公開
保護者通知	モデレーター体制のキャパシティ不足の懸念	審査件数や処理時間の透明化、地域別の適切な支援機関連携
安全設計	保護者アカウントの連携設定が任意	デフォルトで最も保護的な設定を適用する「Safety by Design」

OpenAIは取材に対し、「現在は保護者連携アカウントへの通知に限定しているが、専門家や家族とともに検証と機能強化を継続する」と回答している。

分析と展望：自主規制から第三者監査への移行要求

ソーシャルメディア各社が過去に直面したのと同様に、生成AIプラットフォームにおける未成年者保護も企業の善意や自主宣言だけでは社会的合意を得られない段階に達している。今後は独立した第三者機関による定期的な監査や、法規制に基づく客観的な実効性評価が不可欠になるとみられる。

引用元：Engadget