AIと人間が生み出した「分断の風景」とは何か？ ネット世論にはびこる“認知バイアス”の正体

　ネットの世界ではいつも、「賛成」「反対」もしくは、「我々」「彼ら」に割れているように見える。その分断は本当に社会の実態なのだろうか。膨大なログデータと最新の心理学的知見をもとに、気づかないうちにスマホに「操られている」メカニズムを白日のもとに晒した木村忠正氏の衝撃の新書『スマホは心を操る』から一部抜粋してお届けする。 【画像】あなたは「操られている」…膨大なログデータと最新心理学をもとにメカニズムを晒した衝撃論考『スマホは心を操る』表紙はこちら ＊　　＊　　＊ ■なぜネット世論は「我々/彼ら」に分断されて見えるのか 　ここまでの議論では、人類進化の過程で組み込まれた道徳心理（モラル）という「心の癖」がハイプ・マシンによって増幅され、「ネット炎上、分断、フェイク、ヘイト」といった現代社会の諸課題を生み出している現状を掘り下げました。とくに、仲間内の協力を促進するために最適化された「自動モード」の道徳が、異なる集団間で衝突し、全体として損失を生む「常識的道徳の悲劇」が、ネット世論の課題の核心にあると議論しました。 　この「常識的道徳の悲劇」を克服し、多元化・多様化する社会で共通のルールや価値を見出すための具体的な一歩として、私たちは、まずネット世論を解釈する際に陥りがちな最も重要なバイアスと、それに対抗するためのデジタル・リテラシーについて考察します。グリーンが議論するように、「常識的道徳の悲劇」を克服するには、情動の道徳である自動モードを、理性の道徳である手動モードによって統御する努力、すなわち、内集団の信頼を超えて、異なる文化や規範を持つ他者と共通のルールや価値を見出す努力が不可欠だからです。 　私たちがネット世論の現象を理解する上で、まず常に注意すべきは、二分法バイアスです。これは、物事や争点を「我々（We）」と「彼ら（They）」のように二項対立の図式で捉え、集団間の対立として理解しようとする、私たちヒトという現生人類に深く根ざした認知バイアスです。 　このバイアスは、私たちが真実デフォルト内集団を境界付け、協力や累積的文化学習を効果的に機能させるために進化したヒューリスティクス（近道となる考え方）であり、認知的な手間を省くという実践合理性を持っています。たとえば方向も、前後、上下、左右など、私たちは、二項対立的に処理し、必要のない限り、斜め右前60度、下向き35度のように計測することはありません。二項対立的に事象を捉えることの方が、迅速で、認知的負荷が少ないのです。集団を「内」/「外」に二分することも同様です。 　本書で議論してきたように、人類は、「ダンバー数」（約150人）の制約を超え、顔見知りではない他者とも信頼を結んで、大規模な文化的ネットワークを形成するために、エスニックマーカーを創出、工夫して、「我々（We）」と「彼ら（They）」という境界を再生産してきました。二分法バイアスは、この境界設定を無意識に行う強力な装置なのです。 　そして、二分法バイアスに根ざした「我々対彼ら」の衝突は、ソーシャルメディアとハイプ・マシンによって加速されます。実際、SNSを開けば、どこかで誰かが怒っています。政治、ジェンダー、教育、医療―こうしたテーマに関心をもち、SNSにアクセスすると、タイムラインには、「賛成」「反対」の対立、「正義の声」と「怒りの声」がとめどなく溢れてくるでしょう。政治的イデオロギーや価値観、感染症対策など、本来は連続的で多面的な問題までも「善か悪か」「真か偽か」に分かれてしまいます。 　前章では、ハイプ・マシンであるソーシャルメディア（の中核となるAI）に、道徳基盤内集団、社会的支配志向性といった集合主義的モラルがいかに体化されるかを見ました。道徳心理が、アルゴリズムの形で体化され、二項対立の図式に結びつきやすい負の情動（怒りや嫌悪、不公正を罰したい感情など）が拡散の燃料となり、増幅される傾向が生じます。AIは意図的に分断しようとしているわけではありません。ですが、「エンゲージメントを最大化する」ことが収益モデル上の最適解であり、報酬を最大化する過程で、人間の根深い二分法バイアスと情動的な道徳機構が組み込まれ、その衝突を加速させて、現実以上に社会が二極化して見える構造がつくり出されていくのです。 　もちろん、政策的課題や社会的意思決定において、最終的に賛否を問う以上、二分法図式で物事を捉えることが、世論を捉える上で必要であることも間違いありません。しかし、ネット世論の複雑な実態を、「賛成/反対」「善/悪」「科学的/非科学的」といった一次元の対立構図で無自覚に捉えると、争点を巡る多元的な視点が失われます。とくに、集団間対立としてフレーミングされると、相互のステレオタイプを強化するだけで、本来必要な対話の促進は難しい状況が生み出されます。その結果、問題の背景にある人々の微妙なニュアンスに富んだ懸念や、集団内の多様な動機が見過ごされ、焦点のズレた対立による、結果としてミスコミュニケーションと分断の強化を招くリスクが生じます。 ■スマホが切り出す偽りの全体像 　それはつまり、「分断」が社会ではなく、私たちの心にあるということです。私たちが見ている「分断」とは、社会の裂け目というよりも、AIと私たちの心が共演することで形成される心象風景だといえます。その風景は、実際の社会よりもはるかに鮮やかで、対立が強調されて見えます。しかし、現実の人々の意見はもっと曖昧で、折衷的で、多層的です。「賛成でも反対でもない」「立場は同じだが不安がある」「政策には賛同するが方法には疑問がある」―そうした「中間の声」が、アルゴリズムの中では可視化されにくいのです。 　こうした二分法バイアスによるネット世論バイアスは、「見えている部分を全体だと思い込む」傾向と組み合わされることで、現代ネット社会において私たち全員が直面している重大なリスクとなります。この「見えている部分を全体だと思い込む」傾向によるリスクを、筆者は、古典『荘子』の故事に由来して、「管中窺天（かんちゅうきてん）リスク」と呼ぶことにします。 「管中窺天」とは、細い管を通して天を見ても、ごく一部しか見えず、全体を把握できないことです。現代のネット世論において、この「管」とは、私たちが覗き込むスマホの数インチのディスプレイであり、その背後で情報を個別最適化するAIアルゴリズムによって形成されたタイムラインを指します。ソーシャルメディアの中核にあるAIと「共演」することで、私たちは「自分の好みが反映された心地よい空間」と思いながら、実際にはAIが最適化した「エンゲージメントのための空間」に導かれています。 　この個別最適化のシステムは、ユーザーを特定の情報クラスタに閉じ込める「エコーチェンバー」というよりも、むしろ「管中窺天」を無数に生み出していると捉えるべきだと考えます。私たちはその「管」を通して見えるごく一部の局所的な現象や言説を、あたかもネット世論の全体（「天」）であるかのように錯覚してしまうのです。 　こうしたリスクを具体的に考えるために、新型コロナ禍におけるワクチンによる不妊という言説の流布を取り上げます。この社会的現象を分析すると、「科学/似非科学」「賛成/反対」といった二分法バイアスが、「管中窺天リスク」といかに結びつき、局所的な現象を社会全体と誤認させるのかが分かります。 【AERA Books MEMO】 ■木村忠正『スマホは心を操る』 　怖いのは依存そのものではなく、「操られていることに気づかない」こと。本書が提示するのは、スマホを遠ざけることでも、闇雲に警戒することでもない。仕組みを理解したうえで、自分の意志で関わり方を選ぶ――そのデジタル・リテラシーの起点となる一冊。