Google Earthの画像生成AI機能が一時停止

Googleは、Google Earthに新しく統合されたリアルタイム画像生成AI「Nano Banana 2」機能の一般公開を一時的に停止（ロールバック）したことを明らかにしました。本機能は地理データを基にフォトリアルな景観を生成する仕組みですが、公開後に不適切なコンテンツが生成・共有される事象が確認されたため、セーフガードの強化を目的とした緊急措置として提供が中断されました。

Google Earthに搭載された「Nano Banana 2」は、実際の地理データを活用してリアルタイムにフォトリアルな景観をレンダリング・生成する画像生成AI機能です。しかし、一般公開以降、ユーザーによって不適切な架空建造物や過激なコンテンツが生成され、それがプラットフォーム上で共有される事例が相次いで報告されました。これを受け、GoogleはAIモデルの安全対策やコンテンツフィルタリング機能（セーフガード）を強化・再構築するため、一般公開の一時停止に踏み切りました。

今回の機能停止は、生成AI機能を既存プラットフォームや空間データサービスに組み込む際におけるセーフガードやコンテンツモデレーションの重要性を改めて示す事例となりました。Googleは安全性の向上とセーフガードの強化を進めた上で再提供を行う見通しですが、AIを用いたリアルタイム画像生成サービスの運用には厳格なリスク管理が求められています。

出典: ITmedia AI＋

引用元: ITmedia AI＋ | GIGAZINE