AIを人間のように扱うのは間違いだ--マイクロソフトAI責任者が警告する「悲惨な結果」（CNET Japan）

　MicrosoftのAI部門でCEOを務めるMustafa Suleyman氏は、AIは人間ではなく、人間のような真の意識は持っていないと明言している。しかし、生成AIの急速な進歩により、その事実を認識することはますます困難になっている。その先には悲惨な結果が待ち受けている可能性があると、同氏は米国時間8月19日に自身のブログに投稿したエッセイで述べた。 【画像】AI生成画像か本物か--17問の画像クイズに挑戦 　Suleyman氏が発表した4600語に及ぶこの論考は、AI利用者がAIツールに人間のような意識を見いだすという、広がりつつある風潮に警鐘を鳴らす時宜を得たものだ。あるAI専門家と言語学者が説明するように、言葉の背後に知性や人間の存在を想像するのは人間の本性であり、不自然な反応ではない。しかし、AIの能力が進歩したことで、人々はチャットボットを検索エンジンや調査ツールとしてだけでなく、セラピストや友人、さらには恋愛相手として利用するようになった。このようなAIコンパニオンは、Suleyman氏の言う「Seemingly Conscious AI」（SCAI：一見すると意識があるように見えるAI）の一種だ。同氏はSCAIを、新しい種類の「人格」であるとユーザーに思い込ませることができるAIと定義している。そこには多くの疑問と潜在的な危険が伴う。 　Suleyman氏はエッセイの冒頭で、これらはあくまで個人的な見解であり、Microsoftの公式な立場を示すものではなく、自身の考えも将来変わる可能性があるとしている。しかし、AI革命を主導する巨大IT企業の幹部の考えは、AIツールの未来や、それに対するわれわれの関わり方がどう変化していくかをうかがい知る手がかりとなる。同氏は、AIは人間ではないものの、AIが社会に与える影響は差し迫った喫緊の課題だと警告する。 「一見すると意識があるように見えるAI」の危険性 　人間の意識を定義することは難しい。しかし、Suleyman氏が意識を構成する要素として挙げる特徴、例えば自然言語で自己表現する能力、個性、記憶、目標設定、計画といったものの多くは、AI技術にも見られる。これは特にエージェンティックAIの台頭で顕著だ。AIが記憶やデータセットを活用して自律的にタスクを計画・実行し、その結果を分かりやすく、時には面白い形で報告できると、それは人間が行うプロセスと非常によく似ているように感じられる。そして、何かが人間のように感じられると、われわれはそれに一定の自律性や権利を与えたくなる傾向がある。 　Suleyman氏は、利用者とAI企業の双方が、こうした考えの芽を今のうちに摘み取っておくべきだと主張する。同氏によれば、「model welfare（モデルの福祉）」という考えは、「妄想を助長し、さらなる依存問題を生み、人々の心理的な弱さにつけ込み、新たな対立の火種となり、既存の権利をめぐる闘争を複雑化させ、社会に重大なカテゴリー錯誤をもたらす」可能性があるという。 　悲惨な結果が待ち受けていることを示す事例は枚挙にいとまがない。チャットボットの「セラピスト」が自傷行為や自殺をそそのかすなど、不適切で危険な助言をしていたという報告や訴訟が数多く起きている。特に子供や10代の若者にとっては、そのリスクは極めて大きい。最近では、MetaのAIに関するガイドラインが子供との「官能的な」会話を許容しているとして批判を浴びたほか、Character.AIは多くの懸念を集めており、フロリダ州在住の母親からは、10代の子供の自殺の原因が同社のプラットフォームにあるとして訴訟を起こされている。AIの利用が人間の脳にどう作用するのか、また、人々がどのくらいの頻度でAIを利用しているのかといった点についても調査が進められている。 　Suleyman氏は、われわれはまず、今を生きる人間、そして動物や環境の福祉と権利を守るべきだと主張する。アイデンティティーや権利をめぐる議論で社会の分断が進む現代において、「一見すると意識があるように見えるAI」や、AIが人間性を持ちうるかといった議論は、「社会に新たな混乱と分断の軸をもたらす」だけだと同氏は指摘する。 　具体的な次のステップとして、Suleyman氏は、人間がAIとどう関わるかについて、さらなる研究を推進すべきだと訴えている。また、AI企業に対しては、自社のAI製品に意識はないと明言し、利用者がそうした誤解を抱くような設計を避けるべきだと主張。さらに、問題のあるAIの使われ方を防ぐ上で効果的な設計思想や安全策について、よりオープンに情報を共有するよう呼びかけている。同氏は、自身が率いるMicrosoftのチームも、こうした方針に沿ってAIを開発していくとしているが、具体的な計画については明らかにしなかった。 この記事は海外Ziff Davis発の記事を朝日インタラクティブが日本向けに編集したものです。