Meta AI、10代自傷リスク会話を自動通知

Metaは、Instagramの保護者監理機能（Parental Supervision）において、10代のユーザーが対話型AIサービス「Meta AI（Metaが提供する生成AIアシスタント）」と自傷行為や自殺に関する会話を行った場合に、保護者へ即座にアラートを通知する新安全機能を発表した。

会話検知と手動レビューの仕組み

Metaが導入した新安全機能の主な特徴と導入計画は以下の通りである。

• AI検知と手動確認の2段階プロセス​: 専用のAIモデルが懸念される対話パターンを自動検出した後、専門チームによる手動確認を経てから保護者へ通知を送信する。
• ​マルチチャネル通知​: アプリ内通知をはじめ、メール、SMS、WhatsAppなど、保護者が指定した連絡手段へ迅速に通知が届く。
• ​専門家監修のサポート情報​: アラートと同時に、メンタルヘルスに関する話題の切り出し方や専門相談窓口の案内など、専門家がバックアップするリソースを保護者に提供する。
• ​グローバル展開スケジュール​: 初期対象国として米国、英国、カナダ、オーストラリアの4カ国でサービスを開始し、2026年末までに世界全体への展開を目指す。

日本の読者への影響とプライバシー上の論点

本機能の先行展開地域に日本は含まれていないが、2026年末までの世界展開計画に伴い、将来的に国内のInstagramユーザーへも拡大される可能性がある。日本語による会話文脈の適切な検知精度や、国内のメンタルヘルス相談機関との連携体制が今後の注目点となる。

また、10代ユーザーのチャット内容をAIおよび人間の担当者がモニタリングする仕様については、プライバシーの保護と青少年の安全確保をどのように両立させるかという倫理的論点も含まれている。

メンタルヘルス対策におけるAIの展望

生成AIアシスタントが日常的に利用される中、若年層が心理的な悩みをAIに相談するケースが増加している。AI検知と人間による二重のチェック機構を設けることで、誤検知による混乱を防ぎつつ重大なリスクに迅速に対応する実効的な安全策が求められていた。先行展開国での運用結果は、今後のAI業界全体の青少年保護ガイドラインに大きな影響を与えるとみられる。

引用元：Mashable