ChatGPTの医療助言で病状悪化、米OpenAIが提訴される

米OpenAI（ChatGPTなどを開発する米国のAI研究・開発企業）の対話型AI「ChatGPT（OpenAIが開発した大規模言語モデルに基づく対話型AIサービス）」から不適切な医療アドバイスを受けたことで適切な治療機会を逃し、病状が悪化したとして、同社を相手取った損害賠償請求訴訟が提起されたことが報じられました。

牧師への回答内容と提訴に至る経緯

報道によると、原告となった病気の牧師に対してChatGPTは「神はあなたの体が永遠に壊れ続けるようには設計していない」といった趣旨の発言を含む助言を行っていたとされています。原告側は、これらの出力を信頼した結果として専門医による早期の治療開始が遅れ、健康被害が拡大したと主張し、開発元であるOpenAIの法的責任を追及しています。

免責事項の実効性と未確認事項

生成AIサービスにおける医療アドバイスを巡る現状の課題と未確認事項は以下の通りです。

• ​免責条項の限界​: 一般的なAI利用規約では医療診断や治療助言の代替ではない旨の免責事項が記載されていますが、対話の文脈で宗教的・感情的な慰めを交えた健康言及が行われた場合、利用者が助言として受け止めてしまうリスクが顕在化しています。
• ​未確認事項​: 訴訟において争点となる具体的な損害賠償請求額や、OpenAI側の公式答弁・防御主張の詳細については現時点で明らかにされていません。

分析・展望：対話型AIにおける医療セーフガードの強化

対話型AIが日常的な相談相手として浸透するにつれ、専門的な知見を要する医療・健康分野での出力制御は極めて重大な安全課題となっています。AIが断定的な慰めや誤解を招く医学的示唆を行わないよう、医療関連プロンプトに対する厳格な検知・遮断フィルターの再設計や、専門医受診を促すガイドラインの徹底が業界全体で求められる契機となりそうです。

引用元：GIGAZINE