中国でAI伴侶規制強化、アリババQwen一部機能停止

中国政府によるAIコンパニオン（対話型AI・AIパートナー）サービスへの規制強化が本格化し、アリババ（Alibaba）が展開する「Qwen」などの主要AIモデルにおいて、恋愛対話や情緒的サポートを提供する一部機能が停止・制限されていることが明らかになりました。

確認済みの事実

中国のサイバースペース管理局（CAC）をはじめとする規制当局は、未成年者への心理的影響やプライバシー保護、社会的依存のリスクを理由に、過度に人間的な情緒応答を行うAI対話サービスに対する監査を強化しました。これに伴い、アリババの「Qwen」基盤サービスやサードパーティ製アプリで提供されていたAIコンパニオン機能が順次非公開化または機能制限されています。

独自価値要素

【日本の読者への影響と未確認事項】 日本の開発者やユーザーが中国系AIサービス（Qwen等）をAPI経由で利用する場合、感情表現やロールプレイ機能に関するポリシー違反エラーが返される可能性があります。また、停止された機能の再開時期や、グローバル向けAPIに対する規制の適用範囲については現時点で当局およびアリババからの詳細発表はありません。

分析と展望

AI技術の発展に伴い、メンタルヘルスや伴侶としてのAI利用が拡大する一方、規制当局による倫理・依存対策のハードルは世界的に高まっています。今後は機能制限だけでなく、安全な対話設計や対話履歴の保護基準を満たした新たなガードレールの導入が進むとみられます。

引用元：South China Morning Post