Meta AI、未成年の自傷を示唆する会話を保護者に通知

Metaは、自社の対話型AIアシスタント「Meta AI（Metaが各種SNSアプリやデバイス上で提供する、会話型AI対話機能および画像生成などの支援ツール）」において、ティーン（10代の未成年）ユーザーが自殺や自傷行為について言及したり不安を示したりした際、Instagramの保護者管理機能を通じて保護者へ自動的に警告を通知する安全管理機能の追加を発表しました。

AI検知と人間のレビューによるアラート通知の仕組み

Meta AIはすでに、自傷や自殺を示唆する言葉を検出した際に自動で相談窓口を案内する対策をとっていますが、今回のアップデートにより、保護者が家庭内で早期にサポートを開始できるよう、予防的なアラート機能が追加されました。

• ​保護者へのアラート送信​: ティーンのユーザーがMeta AIとのチャット内で自傷や自殺に関する言及（間接的または微妙なニュアンスを含む）を行った場合、事前に設定された保護者に対し、SMS（テキストメッセージ）、Eメール、またはアプリ内通知でアラートが送信されます。
• ​プライバシーへの配慮​: ティーンのプライバシーを守るため、通知アラートには​​会話の具体的なテキスト内容は含まれません​​。その代わり、保護者がティーンとデリケートな会話を始めるためのヒントや、専門機関によるサポート情報が提供されます。
• ​人手による審査（Human-in-the-loop）​: 誤検出による家族内の無用な混乱を防ぐため、AIがフラグを立てたチャット内容は、アラートが送信される前にMetaのスタッフによって手動でレビューされます。ただし、危険性の判断が曖昧なケースでは、安全を最優先して保護者に通知する方針をとるとしています。

また、Metaは会話内に差し迫った自傷のリスク（命の危機）があると判定した場合、成人・未成年を問わず救急サービスに通報して安否確認（Wellness Check）を求める仕組みも現在開発中であると明らかにしました。

二次報道との差分および日本への展開と影響

Metaの公式ニュースルームでは、安全対策の強化や専門家の支持コメントを強調する形で機能が紹介されています。一方でCNETなどの海外メディアの報道では、Meta社を含むIT大手が若年層のSNS中毒や児童搾取問題を巡って相次ぐ訴訟に直面しており、若年層の安全確保に対する法的な圧力や厳しい監視の目が本機能の導入背景にあると指摘されています。

本アラート機能を利用するには、大人がMetaの「Family Center（ファミリーセンター）」から保護者監督機能をオプトイン（承認設定）し、対象のInstagramアカウント等を登録しておく必要があります。

現在、本機能は米国、英国、カナダ、オーストラリアの英語圏で先行して提供が開始されており、年末までにグローバルでの展開が予定されています。日本国内での提供開始時には、日本のメンタルヘルスホットラインなどの相談機関情報への適切なローカライズが行われるかどうかが、実用上の重要な焦点となります。

出典：Meta Newsroom / CNET

引用元：Meta Newsroom | CNET | www.itmedia.co.jp