実在の人物の同意なしで性的コンテンツを生成できるためCivitaiから禁止された5000種類のAIモデルがHugging Faceに再アップロードされていることが判明

2025年07月16日 12時20分 ソフトウェア

AI開発プラットフォームであるHugging Faceに、実在の人物の姿を無断で再現するために作られたAIモデルが少なくとも5000件以上ホストされていることが明らかになりました。この問題は単にモデルが存在するだけでなく、意図的に隠蔽され、組織的に共有されているという深刻な背景を持っていると指摘されています。

Hugging Face Is Hosting 5,000 Nonconsensual AI Models of Real People

今回発見されたAIモデル群は、もともとCivitaiというAIモデル共有サイトで公開されていました。

画像生成AIによるアダルトコンテンツ生成は「ポルノで学習したモデルの無料配布」「簡単にポルノ画像を生成できる有料サービス」などとんでもないことになっている - GIGAZINE

しかし、Civitai上で公開されているモデルが、同意なしに作成された有名人などの性的画像を生成するために広く使われていることが問題視された結果、Civitaiはクレジットカード会社などの決済処理業者から強い圧力を受け、2025年5月に実在の人物を基にしたAIモデルを全面的に禁止することを発表しました。 この決定に対し、Civitaiのユーザーたちは反発し、Discord上で連絡を取り合い、禁止される前に問題のモデルをCivitaiから一斉にダウンロードし、Hugging Faceへ再アップロードするという組織的な「データ保存活動」を実行しました。

Hugging Faceにアップロードされたモデルは、その悪質な目的が分からないように巧妙に隠蔽されています。モデルの名前は「LORA」や「Test model」といった、一見すると何でもないような一般的な名称に変更されているため、Hugging Face上で特定の有名人の名前を検索しても、これらのモデルを見つけることはできないようになっています。モデルを見つけるには、この保存活動を行っているユーザーたちが作成した、まったく別のウェブサイトを経由する必要があります。 オンラインメディアの404は、研究者から提供されたCivitaiから削除されたモデルの名前・元URL・SHA256ハッシュを含むリストと、このアーカイブサイトを利用することで、Hugging Face上でホストされているモデルを特定しています。問題のモデルの大半は女性有名人やネットで活動するインフルエンサーを対象としており、実際に非同意の性的コンテンツの作成に利用されていることが示されていたそうです。

Hugging Faceの利用規約では、「嫌がらせ、いじめ、または明確な同意なしに作成された性的コンテンツ」は明確に禁止されています。しかし、AIモデル自体は、ユーザーがそのように使わなければ性的コンテンツを生成しないため、モデルの存在自体が直ちに規約違反となるとは言えない、というグレーゾーンが存在します。

一方で、Hugging Faceの倫理・社会部門は、「AIは同意に基づいた(Consentful)技術であるべきだ」という高い倫理基準を掲げています。本人の同意なく姿を再現するモデルの存在はこの倫理指針とは明らかに矛盾していると、404は指摘しました。