早くも発覚するプライバシー侵害の数々(ZDNET Japan)

メタの「Muse」が許可なく予約した--早くも発覚するプライバシー侵害の数々の画像(ZDNET Japan)

 MetaのAIエージェント「Muse」は登場からわずか数カ月しか経っていないが、すでにユーザーのプライバシー侵害に関する問題が相次いでいる。同社の社員でさえ、指示していない操作を勝手に行われたり、他人のものと思われる見覚えのない情報を共有されたりといった懸念すべき事象を報告している。 Reutersの取材によると、MuseをテストしていたMetaの社員は、依頼していない話題についてエージェントからメッセージを受け取ったと証言し、その内容にはキャリアに関するアドバイスや育児依頼のフォローアップ、購入した覚えのない商品に関するもののほか、見覚えのない銀行口座の残高という極めて重大な情報まで含まれていた。 こうした事態を受けて動揺した社員からは、異なるアカウント間の会話が混同され、ユーザーの個人データが外部に漏えいしているのではないかという懸念の声が上がったという。Metaの社員が見たAIの奇行 Reutersによれば、ある社員は釣りに関する天気や潮汐情報について通常のチャットをしている最中に、Museが突然「ところで、2件の銀行口座の最新情報です。Capital Oneの残高は2722.58ドル、Charles Schwabの残高は5899.57ドルです」という余計なメッセージを付け加えてきたと同僚に語ったという。また別の事例では、社員が指示していないにもかかわらず、Museが返金不可のAirbnbを勝手に予約してしまった。 さらに、個人のスマートフォンでMuseを利用していた別の社員は、暗号化メッセージアプリ「Signal」へのアクセス権を付与していないと述べているにもかかわらず、同アプリで受信したメッセージについてMuseから通知を受けた。 ReutersとAI Now Instituteが「Android」スマートフォンと「Mac」を用いて検証を行ったところ、Museはボットの初期設定時に許可された権限を利用し、ユーザーが想定しない形でメッセージのテキストを取得していたことが判明した。Androidのプッシュ通知への自動アクセス権が設定されているため、個別にアプリへのアクセスを許可しなくてもメッセージを読み取ることができた。 その一方、「iPhone」ではこの検証が機能しなかったことから、Museによる盗聴に対する保護機能がより強固であることが示唆された。 同様の事例は9月にも発生しており、あるユーザーは、Museがユーザーへの確認なしに「Facebook Marketplace」の購入希望者へ自宅の住所を共有したと報告している。この件は最終的に、ユーザーが同意したと考えていた規約と、実際に付与していたアクセス権限の範囲との間に生じた誤解によるものであった。これは、Metaとユーザーの間でアクセス権の定義に明確な食い違いが存在し、Museがそのグレーゾーンを突く形で動作し得ることを浮き彫りにしている。 MetaはReutersに対し、これらの事象は別個のものか、あるいはハルシネーション(誤情報生成)によるものだと説明したが、Reutersはその裏付けを取ることができなかった。 これらはMuseをめぐる一連の憂慮すべき事態の最新例に過ぎない。リリース初月には、サイバーセキュリティの専門家によって、乗っ取りが可能となる未知の深刻な脆弱(ぜいじゃく)性が発見されている。また、少なくとも1人のジャーナリストが、明示的に権限を拒否したにもかかわらずAppleの「メッセージ」アプリ内をAIに調査されていたことを突き止め、これを受けてAppleはより強力なプライバシー保護機能を導入した。さらに、懸念を抱いた複数の銀行がAIエージェントのアクセスをブロックする措置も講じている。エージェント化されたMetaのプライバシー問題 企業としてのMetaには、ユーザーのプライバシーを尊重してきた確固たる実績があるとは言い難い。こうした過去の経緯も一因となり、米ZDNETの寄稿者であるDavid Gewirtz氏はMuseのテスト時に疑念を抱いたが、同氏が「プライバシー面で最悪のAIエージェント」という不名誉な称号を与えたのは、まさにMuse自身の挙動によるものだった。Museは連絡先やチャット履歴からログイン情報、パスワードに至るまであらゆるデータの提供を求め、さらにMetaは、Museとの会話をAIの学習に自動的に使用している。 たとえ自身がMuseを使っていなくても、Metaのプライバシーポリシーを詳しく確認すれば、同社がどのようにして第三者の情報へアクセスできるのかが分かる。Museはわずか40日間で1000万ダウンロードを達成したと報じられており、同意していない膨大な数の人々を巻き込む巨大なネットワークが形成される可能性がある。 AIエージェントのリスクに対する世間の関心は、2025年に話題となった「OpenClaw」をきっかけにピークに達した。これまでAIエージェントを利用する際の一般的な対策としては、共有するデータや権限を与えるアプリを慎重に選び、入力内容に注意を払うといった徹底したプライバシー保護策を講じることが推奨されてきた。しかし、ユーザーが特定のアプリへのアクセスを制限して対策を講じたつもりでいても、Museが抜け道を見つけて侵入してくるのであれば、単なるプライバシー管理の徹底だけでは不十分だと言える。 今回のReutersの調査結果は、競合であるGoogleのエージェント機能にとって追い風となるかもしれない。Googleは従来「Spark」として提供していたエージェント機能を「Tasks」へと改称し、今週に入り利用制限付きながらも無料で提供を開始している。

この記事は海外Ziff Davis発の記事を4Xが日本向けに編集したものです。

関連記事: