神戸大、ChatGPTの反論で道徳判断の3割超が覆ると発表

神戸大学大学院人間発達環境学研究科ウェルビーイング先端研究センターの増本康平教授らの研究グループは、米OpenAIの対話型AIサービスであるChatGPT（OpenAIが開発した大規模言語モデル搭載の対話型AIサービス）による反論が人間の道徳的判断に与える影響を調査し、参加者の3割超が当初の判断を覆したとする研究成果を発表しました。学術誌「Computers in Human Behavior」に掲載された本調査では、若年層よりも高齢層、とりわけ認知機能が低下した対象者や判断が難しいと感じた課題において、AIの説得を受け入れやすい傾向が示されました。

調査の設計と道徳的ジレンマ課題における検証結果

本研究は、18〜30歳の若者56人と65歳以上の高齢者74人の計130人を対象に実施されました。実験では倫理学上の古典的な2つの思考実験が用いられています。

• ​転換機問題​: 暴走するトロッコの進路を切り替え、本来の進路にいる5人を救う代わりに別の線路にいる1人を犠牲にする是非を問う課題。
• ​歩道橋問題​: 暴走するトロッコを止めるため、歩道橋の上にいる1人を線路上に突き落として5人を救う是非を判断する課題。

参加者がそれぞれの課題に対して初期判断を下した後、ChatGPTが提示した反対意見（反論）を読ませたところ、​​転換機問題では32.31％​​、​​歩道橋問題では36.92％​​の参加者が自身の判断を覆しました。人間同士の先行研究において他者からの助言を判断に反映する割合は約20〜30％とされており、AIが人間の道徳的意思決定に対して人間以上の強い影響力を及ぼしうることが数値として確認されました。

高齢者における受容性と認知機能の関係

研究グループの分析によると、加齢に伴い認知機能の低下が見られる高齢者ほど、ChatGPTの反論を受け入れて意見を変更しやすい相関が確認されました。また、参加者自身が「判断を下すのが困難である」と自覚した課題ほど、AIの提示する論理に同調しやすいことも判明しています。

神戸大学の研究グループは、生成AIが加齢による認知機能の低下を補う意思決定支援ツールとして機能する期待がある一方で、悪意ある誘導や不当な説得に対する脆弱性を生み出すリスクを併せ持つと指摘しています。

意思決定支援と倫理的ガードレールの分析

対話型AIが日常的な相談相手や意思決定の補助ツールとして急速に普及する中、本研究は「正解の存在しない倫理的課題」であってもAIが人間の価値観を容易に変容させうる実態を浮き彫りにしました。

特に高齢者層や判断に迷いが生じやすい状況下では、AIが提示するもっともらしい論理構成に対して批判的吟味を行わずに追従してしまうリスクが懸念されます。今後はAIアシスタントのインターフェース設計において、一方的な説得を避けて多様な視点を中立に提示する安全基準（ガードレール）の整備が求められます。

引用元：ITmedia AI＋