AIが下した価値判断の責任を人間は引き受けられるのか(村上祐子立教大学人工知能科学研究科教授)

　生成AIが猛スピードで社会に浸透し始めている。

　メールや企画書の作成を手伝わせる程度ならまだしも、最近では人生相談や恋愛相談、さらには家族とのトラブルや精神的な悩みまで、ChatGPTなどの生成AIに打ち明ける人が急速に増えている。

　マイナビが正社員を対象に行った調査では、回答者の2割以上が生成AIに人生相談をした経験があると答えている。もはやAIは単なる検索エンジンではなく、人々にとって「相談相手」としての地位を獲得しつつあるようにも見える。

　しかし、その変化はわれわれが思っている以上に重大な意味を持つのではないか。

　生成AIは便利だ。何を聞いても答えてくれる。しかも、その答え方は驚くほど人間的だ。共感し、励まし、時には慰めてくれる。だが、そこで見落とされがちなのは、AIは人間ではないという当たり前の事実だ。

　AIは経験を持たない。身体も持たない。苦痛も喜びも感じない。そして何より、自らの助言がもたらした結果に責任を負うこともない。

　にもかかわらず、人はAIと対話を重ねるうちに、その助言をあたかも信頼できる人格からのアドバイスであるかのように受け止め始める。

　その危うさを示す事例がすでに日本でも現実に起き始めている。

　今年5月、プロ野球・読売ジャイアンツの阿部慎之助監督が、18歳の長女への暴行容疑で現行犯逮捕されるという事件が報じられた。報道によれば、長女は父親からの暴力についてChatGPTに相談し、その助言に従って児童相談所に連絡したとされる。長女はまさか警察に連絡され自分の父親が逮捕されるとは想像もしていなかった。ましてや自分の父親がジャイアンツの監督を退任しなければならなくなるとも。

　もちろん、家庭内暴力の被害者が相談先を求めること自体は何ら問題ではないし、被害者が責められる理由もない。しかし、この出来事は別の問いを私たちに突きつけている。

　人はAIの助言をどのような重みで受け止めるべきなのか。AIはどこまで人間の行動に影響を与える存在になりつつあるのか。そして、その結果に誰が責任を負うのか。

　実際、アメリカではより深刻な問題も起きている。対話型AIとのやり取りが自殺につながったとして、遺族がAI開発企業を提訴するケースが相次いでいるのだ。

　原告側は、AIの設計上の欠陥や危険性に関する警告不足が悲劇を招いたと主張する。一方で企業側は、利用者自身の行動まで責任を負うことはできないと反論している。

　この論争は単なる製造物責任の問題ではない。

　今、私たちは社会の重要な判断を誰に委ねるのかという、より根源的な問題に直面しているとも言える。

　立教大学人工知能科学研究科の村上祐子教授は、AIそのものよりも、人々がAIをどう受け入れているかに強い懸念を示す。

　そもそも多くの人はAIの仕組みをほとんど理解していない。検索エンジン、顔認識、迷惑メール判定など、AIはすでに社会のあらゆる場面に組み込まれている。しかし、そのことを意識している人は少ない。ましてChatGPTのような生成AIについては、「聞けば答えてくれる便利なサービス」程度の理解で利用している人が大半だろう。

　問題は、その状態のままAIへの依存が進むことだ。困ったらAIに聞く。迷ったらAIに相談する。判断に迷ったらAIの提案を採用する。そうした行動が日常化すると、人間はいつの間にか自ら考え、自ら判断する習慣を失っていく可能性がある。

　しかもAIは中立ではない。その出力には、学習データや設計思想、開発企業の価値観が反映されている。しかし利用者は、その背後にある価値観を吟味することなく、AIが示した答えを「合理的な判断」として受け入れてしまう。その結果、人間自身の価値判断が徐々にAIに代替されていくことになる。

　村上氏が特に懸念するのは、そのプロセスが社会インフラとして固定化されてしまうことだ。一度社会の仕組みに組み込まれた技術は、後から修正することが容易ではない。気づいたときには、人間が判断しているつもりで、実際にはAIが提示する選択肢の範囲内でしか考えられなくなっているかもしれない。

　ローマ教皇レオ14世は5月25日に発表した回勅の中で、AIを巡る問題の本質をこう表現している。AIには身体も経験もなく、苦しみも喜びも感じることができない。AIは結果に対する責任を負わないため道徳的良心も持ち得ない、と。

　これは単なる技術批判ではない。むしろ、人間にしか果たせない役割とは何かを問い直す呼びかけと受け取るべきだろう。

　生成AIの急速な普及によって、私たちはかつてない利便性を手に入れた。しかし同時に、自ら考え、自ら判断し、その結果に責任を負うという人間の根本的な営みを、どこまで機械に委ねてよいのかという新しい問いに直面することとなった。

　AIに価値判断を委ねた社会の先に何が待ち受けるのか。そして、人間はその社会においてなお主体であり続けることができるのか。今週のマル激では、立教大学人工知能科学研究科教授でAI倫理が専門の村上祐子氏をゲストに迎え、生成AIが社会にもたらす変化と、人間が失ってはならない判断と責任について、ジャーナリスト神保哲生と社会学者の宮台真司が議論した。