Meta、反発受けInstagramのAI画像編集機能を削除

メタ（Meta）は、Instagram（インスタグラム）上の写真を画像生成AIを使って編集できる新機能「Muse Image（ミューズ・イメージ）」の提供を急遽停止し、削除したことが明らかになりました。この機能は発表直後から、ユーザーの同意なしに画像を勝手に編集・加工できてしまう仕様や、加工された本人への通知が一切行われない仕組みについて、プライバシー侵害や悪用への大きな反発を招いていました。Metaは「有用なクリエイティブツールを提供する意図だったが、期待に沿わなかったというフィードバックを受けたため、利用できなくした」との声明を発表しました。

1. 嫌がらせやなりすましなどへの悪用懸念

問題視された「Muse Image」は、MetaのAIアシスタント「Meta AI」チャット内において、特定の公開Instagramアカウントをメンションすることで、そのアカウントが投稿している写真を参照・編集できるというものでした。しかし、本人が関与しないまま第三者が勝手に顔写真や私生活の写真を編集・改変できる仕組みは、嫌がらせ、ネットいじめ、ディープフェイク（AI等を用いた偽造動画・画像）によるなりすましといった極めて悪質な悪用を引き起こす可能性が専門家やメディアから強く指摘されていました。

2. 著名タレントエージェンシーや業界からの精査

この機能の削除は、一般ユーザーからの非難だけでなく、ハリウッドの大手タレントエージェンシーであるCAA（クリエイティヴ・アーティスツ・エージェンシー）を含むタレント業界からの厳しい精査と反対運動の中で決定されました。著名人やクリエイターの肖像権がAIによって無許可で侵害・利用される懸念に対して、業界が即座に反応した格好です。

3. ソーシャルメディアにおけるAI機能のトラブル前例

SNSに追加された生成AI機能が大きな問題となる事例は今回が初めてではありません。xAI（現SpaceXAI）が提供する生成AI「Grok」の画像編集機能において、実在する女性や子どもの写真が無断で性的な画像に加工される事件が相次ぎ、社会的・法的な大問題に発展しました。この結果、インドネシアやマレーシアではGrokの利用が一時的に遮断されたほか、欧州やアジアなど各国政府当局が調査を開始する事態になっています。また、Grokを用いて児童虐待コンテンツ（CSAM）が生成されたとして、開発元が提訴されるケースも起きています。

Metaの「Muse Image」機能の即時削除は、利便性やエンターテインメント性を優先した結果、プライバシーやセキュリティへの配慮を怠ったことによる必然的な帰結と言えます。生成AI技術の進歩は著しいものの、ユーザーの肖像権や同意のコントロールが担保されない機能は社会的な反発を受けやすく、プラットフォーム企業のコンプライアンスやAI倫理に対する監視の目はより厳しくなっています。今後は画像生成ツールや編集ツールを展開する際、どのようなオプトアウト（拒否）手段や同意プロセスを設計するかがメーカー各社に問われることになります。