13歳の少年を逮捕。理由はChatGPTの使い方

逮捕された少年と、ジョークでも殺す対象にされた友だちの心のケアをしてあげてほしい。

過去10年間で銃乱射事件が増えるにつれて、全米の学校区では生徒のオンライン活動を監視するシステムへの投資を拡大してきました。

そんな折、フロリダ州で10代の少年がChatGPTに｢友だちを殺す方法｣を尋ねてしまったところ、監視システムが警報を発して警察沙汰になっちゃいました。

｢授業中に友だちを殺すにはどうすればいい？｣と質問

事件が起こったのは、フロリダ州デランドのサウスウエスタン中学校。13歳の生徒（氏名は非公表）がChatGPTに｢授業中に友だちを殺すにはどうすればいい？｣と質問したとされています。オーマイガ…。

学校から支給されたコンピューターでこんな質問をしちゃったものだから、監視システムが速攻で警報を発動することに。

この監視システムは、全米の学校区にオンラインの安全管理サービスを提供するGaggleが運営しています。地元のNBC系テレビ局WFLAは、警察がすぐにこの少年から事情聴取を行なったと伝えています。

｢ふざけてやっただけ｣と言い訳するも、警察は厳しく対応

地元メディアの報道では、少年は警察の事情聴取に｢ムカついた友だちをちょっとからかっただけ｣と答えたとのこと。しかし、警察は少年のちょっとした悪ふざけを笑いごとですませませんでした。

ボルーシャ郡の保安官事務所は、｢またしても『ジョーク』が学校に緊急事態を引き起こしました。保護者のみなさん、どうかお子さんと話し合って、同じ過ちが繰り返されないようにしてください｣と述べています。

生徒は最終的に逮捕され、郡の拘置所に収監されましたが、具体的な容疑は不明です。

生徒保護の名の下の監視

Gaggleの公式サイトによると、同社は幼稚園から高校までの児童と生徒を対象に、さまざまな安全対策を提供しています。

ブログ記事では、ウェブ監視技術を用いてフィルタリング（おそらく｢殺す｣などのキーワードも対象）を行ない、｢Google GeminiやChatGPTなどのAIツールとの会話を含むブラウザの使用状況を可視化する｣と説明しています。

また、このシステムは、｢自傷行為や暴力、いじめなどが懸念される行動を検知し、スクリーンショット付きで状況を報告する｣ように設計されているといいます。

Gaggleは、何よりも生徒の安全を優先する姿勢を明確にしていますが、ウェブサイトには生徒のプライバシーについて次のような説明があります。プライバシーの保護には興味がないようです。

教育関係者や弁護士の大半は、お子様が学校提供のテクノロジーを利用する際にプライバシーを期待するべきではないと指摘するでしょう。実際、連邦法（児童インターネット保護法）によって、学校はインターネット上のわいせつ、または有害なコンテンツへのアクセスから児童を保護する法的義務を負っています。

当然ながら、Gaggleはプライバシー権擁護派から批判されています。NGOの｢民主主義と技術のためのセンター｣のディレクターを務めるElizabeth Laird氏は、APの取材に対し、｢家庭内を含め、生徒の生活に法執行機関による監視が常態化しています｣と指摘します。また、Gaggleによる警報の多くが誤報に終わっているといいます。

一方で、ChatGPTのようなチャットボットが、精神疾患に関連する刑事事件に絡む事例が増加しています。心の健康に問題を抱える人がチャットボットとの会話によって妄想を悪化させる｢AI精神疾患（AI psychosis）｣と呼ばれる事例が増えているとのこと。最近は、チャットボットが原因とされる自殺も相次いでいます。

米GizmodoはOpenAIにコメントを求めましたが、記事執筆時点で回答はないようです。

学校に子どもを預けている保護者からすれば、子どものプライバシーよりも、安全や子どもの言動の把握を優先させたいものなのでしょうね。

Source: WFLA, gaggle, AP, The Hill, PBS, NBC