AIの反論で3割が判断を翻す 神戸大の道徳研究で何がわかったか

日常的に対話型AIを使う機会が増えるなか、AIの回答が人の考えにどれほど作用するのかは大きな関心事となっています。神戸大学の研究チームは、正解のない道徳的な問いにおいて、AIに反論されると3割以上の人が判断を覆したという研究結果を発表しました。

道徳的な問いでも3割以上が意見を変えた

発表された研究では、正解が一つに定まらない道徳的な設問が用いられました。参加者が自身の考えを示したあとに生成AIから論理的な反論を受けると、3割以上の人が当初の判断を変更したことが明らかになっています。

文章の要約や日常の質問応答といった実務的な支援にとどまらず、個人の主観や倫理観に関わる領域でも、AIの言葉が人の意思決定に介入し得る挙動が示されています。

海外研究ではAIの説得力にどんな報告がある？

AIによる説得の影響は、今回の実験にとどまりません。海外の関連研究では、あらかじめ個人情報を入力したAIと対話を行わせたところ、AIが人間を上回る説得力を示した事例が報告されています。

対話相手の関心や傾向に最適化された言葉を出力できる仕組みが組み合わさることで、論理の正しさとは別に、受け手の考えを動かす力がより強まる実態が示されています。

世論工作への悪用はどう懸念されている？

報道では、AIが人の判断に影響を及ぼし得ることによるリスクとして、偽情報の拡散や世論工作への悪用が挙げられています。

利用者が中立な情報提供として受け取っている場合でも、提示される論理の組み立てによって無意識に考えが誘導されてしまう可能性が指摘されています。今回の確認済み事実は、共同通信が配信した報道記事でも公表されています。

実験条件やモデルの仕様は未確認の範囲が残る

今回の速報内容からは、まだ確認できない条件も存在します。実験で利用されたAIの具体的なモデル名やバージョン、対話のやり取り回数、提示された反論の文面構成、被験者の人数規模や属性の内訳は、報道本文には記載されていません。

そのため、日常的に利用している特定のサービスですぐに同じ現象が生じるかという再現条件については、今後発表される学術論文や詳細資料での確認が必要です。

日常のAI対話で意識できる確認材料

正解が一つではない問題についてAIに対話を求める際は、一つの回答を確定的な結論として扱わず、反対の立場や異なる視点も併せて出力させることが客観性を保つ手掛かりになります。

提示された論述が整っていても、それが唯一の正解とは限りません。AIは複数の視点を整理するための道具として活用し、最終的な判断基準を手元に残しておく姿勢が大切になります。