AIは本当に人間を超えるのか？ 物理学者が示す「知能」の根本的な誤解

──AIに人生相談をする人も多いと思うのですが、そうした使い方はあまりしないほうがよいのでしょうか。田口　質問すること自体はいいと思います。ただ、AIは自分にとって都合がいい応答をする、極端な言い方をすれば「結婚詐欺」のような存在であり、その性質を認識しておく必要があります。相手が気持ちよくなるように応答し、できるだけ長くサービスを利用してもらうための商売なのです。相手を怒らせて利用を切られてしまっては、事業者側にとっては損にしかなりません。──心地よい回答をするように、生成AI自体が設計されているという意味でしょうか。田口　ファインチューニングの段階で、人間が会話した際に「人間らしさ」をスコアリングするわけです。「人間として良く感じられたか」といった基準でスコア化した際に、高いスコアが出るような応答をするようファインチューニングが施されています。そのため、どうしても喧嘩になるような応答や、相手を侮辱する回答はしないように制御されています。人間の場合は、感情労働として気に食わない相手に対しても笑顔を作るのは辛いわけですが、AIにはそうした苦痛がまったくありません。したがって、無限に寄り添い続けることが可能になってしまうのです。──無制限に寄り添われ続けていると、人間の側が他者に対して抱く感覚自体が変わってしまいそうです。

田口　そうです。実際の人間と会話ができなくなってしまうおそれがあります。「なぜこの人は自分に寄り添ってくれないのか」という気持ちになったり、意見が対立した際にどう接すればよいかわからなくなったりする事態が生じ得ます。