Meta、監修員の9割をAI置換へ

Metaは、FacebookやInstagramなどのプラットフォームにおけるコンテンツおよび広告のレビュー業務について、人間からAIモデルへの移行を加速させています。現在、これらの業務の約50%がすでにAIツールによって管理されていますが、同社は2026年末までにその割合を90%まで引き上げる計画を立てています。

1. 人間からAIへの置き換えと業務効率化

フィナンシャル・タイムズの報道によると、Metaは大規模言語モデル（LLM）を用いて、投稿や広告に関するコンテンツ決定のほぼすべてを自動化する方向で動いています。現在、レビュー業務の半分がAIで処理されていますが、これを年内にさらに拡大し、最終的にはレビューに関わる人的コストを大幅に削減し、AIシステムによるコンテンツモデレーションを確立することを目指しています。

2. サポートAIボットを突いた悪用事例とセキュリティ懸念

一方で、AIへの依存度を高めることに対する懸念も生じています。最近、ハッカーがMetaのAIサポートボットを騙すことで、約2万件のInstagramアカウントに不正アクセスする事件が発生しました。この「ハック」はプログラミング技術を必要とせず、AIに対して別のアドレスへ認証コードを送信するよう自然言語で要求するだけで成功したとされています。Metaはこの脆弱性をすでに修正したとしていますが、自然言語での曖昧な命令を受け付けるAIエージェント特有の脆弱性と、悪用の防止がいかに困難であるかを浮き彫りにしました。

Metaは自社AIの価値をアピールするため、巨額のインフラ投資を行い、人間の労働に代わる実例として自社のコンテンツレビュー人員の削減を急いでいます。しかし、悪意あるユーザーによる悪用の手法もまた多様化しており、AIへの急激な移行がさらなるセキュリティ上の脅威を引き起こす可能性についての懸念も残されています。