Apple、審査規約改定でAI性的ディープフェイク対策義務化

Appleは2026年10月16日（現地時間）、App Store（Appleが運営するiOSやiPadOS向け公式アプリ配信プラットフォーム）のアプリ審査ガイドライン（App Review Guidelines）を改定し、生成AIを用いた非合意の性的画像（ディープフェイク）に対する事前防止措置の導入を開発者に義務付けた。あわせて、審査通過後に有害機能を後から有効化する「ベイト・アンド・スイッチ」行為の禁止を明文化し、規約違反が認められた場合はアプリの削除だけでなく開発者アカウントの即時停止措置をとる厳格な姿勢を打ち出した。

改定ガイドラインの主要変更点

Apple Developerの公式発表によると、今回の改定における骨子は主に以下の3点に集約される。

• ​第1.2項（コンテンツモデレーション義務の明文化）​: AI生成ツールを含むコンテンツ作成アプリに対し、同意のない親密な画像（nonconsensual intimate imagery）の生成や拡散を能動的・予防的に防止し、発見時には迅速に削除する保護機能の実装を明示的に義務付けた。警告後にも改善しない場合はデベロッパー行動規範違反としてApp Storeから削除される。
• ​第2.5.19項（ベイト・アンド・スイッチの禁止）​: アプリ審査提出時の申告と異なる機能や、審査承認後に隠蔽機能を有効化する行為を明確に禁止した。特に、審査時は無害な画像編集アプリを装い、承認後にいわゆる「脱衣（nudification）」機能を外部から追加する手口を名指しで排除対象としている。
• ​第5項（安全基準の代替配信への拡大適用）​: 児童搾取や人身売買を助長するアプリの禁止規定を更新し、欧州連合（EU）等で導入されている代替アプリストア（サードパーティ配信）経由の流通についても排除対象としてブロックすることを明記した。

Appleによると、前年実績としてセキュリティや安全性に問題のあるアプリ15万本以上の配信を阻止し、不正行為に関与した19万3000件以上の開発者アカウントを停止したという。

公式発表と報道から見る背景と独自価値要素

MacRumorsの報道によると、今回の規約厳格化の背景には、生成AIチャットボットや画像生成アプリを用いた悪質な性的ディープフェイクの急増がある。2026年前半にはxAIの対話型AI「Grok」において性的画像の生成リスクが指摘され、Appleが安全対策の導入を求めて一時アプリ削除を警告した経緯も報じられていた。

規約条項	対象となる行為	プラットフォームの対応
第1.2項	AIによる非合意性的画像の生成・拡散	予防フィルタと削除機能の義務化、不備時は配信停止
第2.5.19項	審査通過後の隠し機能有効化（ベイト・アンド・スイッチ）	App Storeおよび開発者プログラムからの即時除名
第5項	児童搾取・人身売買助長アプリ	App Storeからの削除に加え、代替アプリ配信からも遮断

日本のアプリ開発者にとっても、AIを用いた画像生成や写真編集、チャットサービスを提供する事業者には直接的な影響が生じる。単にユーザー規約で禁止を謳うだけでなく、プロンプトの遮断フィルタや出力画像の自動検知モデレーションなど、技術的な安全策が実装されているかを審査で厳格に問われることになるため、追加の開発コストや運用体制の整備が必要となる。

モバイルエコシステムにおけるAIガバナンスの展望

生成AIの民主化に伴い、悪意あるコンテンツ生成アプリへの対策は各プラットフォームの急務となっている。Appleが審査規約上で「予防（proactively prevent）」という強い表現を用いたことは、事後対応の通報システムだけでは不十分であり、開発者側に事前抑止の技術的責任を課す方針への明確な転換を意味する。さらに代替アプリ配信に対しても安全基準を適用する姿勢を示したことで、エコシステム全体の信頼性を維持する強い規律が敷かれることになるとみられる。

引用元：Apple Developer | MacRumors