AI関連の最新ニュースをピックアップ

米メタが提供を開始した画像生成AI「Muse Image(ミューズ・イメージ)」において、他人が公開設定写真から顔を抽出して勝手に合成画像を生成できる仕様であったため、プライバシー侵害やディープフェイク悪用への懸念から強い反発が巻き起こっている。
新ツールは、プロンプト内でInstagramアカウント名を指定(メンション)するだけで、本人が公開している写真から顔特徴を切り出してAI画像へ合成できる。本機能は最初から有効(デフォルト有効)となっており、対象者が拒否(オプトアウト)手続きを行わない限り、自動で対象に含まれる仕様となっていた。また、顔画像が利用されても通知は届かない。
この仕様が明らかになると、インターネット上では「直ちにメタ系列におけるサービスを解約すべき」といった強い批判や、サービス利用ボイコットを呼びかける動きが急速に広がった。
メタは、18歳未満や非公開アカウントは自動除外されること、希望者は設定画面から機能停止できることを説明している。さらに、生成画像には電子透かし(Content Seal)を埋め込む安全対策を導入したと主張するが、画面切り取り(スクリーンショット)などで回避可能であるため、実効性を疑問視する見方もある。また、機能停止前に他人が生成した画像は、その後もプラットフォーム上に残る点が問題視されている。
便利さを追求する生成AI機能において、個人の顔という機微情報を事前同意なしに他者が利用できる仕様は、重大な倫理的課題を提示した。オプトアウト方式を基本とするメタがとる方針は、プライバシー保護を巡る観点から今後さらに厳しく問われそうだ。

Mashable ME
‘Delete all Meta accounts ASAP’: Backlash grows over Meta Muse AI using public Instagram photos to create deepfakes with
Meta recently introduced its new Muse Image model, developed by Meta’s Elite Superintelligence Labs, replacing its previous Llama-based models. As is typical of Meta, the release has already faced backlash over privacy concerns.
https://me.mashable.com/tech/73676/delete-all-meta-accounts-asap-backlash-grows-over-meta-muse-ai-using-public-instagram-photos-to-crea

Digital Trends
Instagram is letting people generate AI images of you. Here’s how to stop it.
Instagram's new Muse AI lets anyone use your photos to generate AI images and videos, and you're opted in by default. Here's how to find the setting and turn it off before someone else uses your face without asking.
https://www.digitaltrends.com/phones/instagram-is-letting-people-generate-ai-images-of-you-heres-how-to-stop-it