中国のAIアプリから「人間っぽい相棒」が消える、ByteDanceとAlibabaが規制対応で機能停止へ

2026年07月06日 13時40分 AI

2026年7月15日から「人工知能擬人化インタラクションサービス管理暫定弁法」が施行されることを受け、中国の大手AIアプリであるByteDanceの「Doubao」とAlibabaの「Qwen」が人間のような性格や口調を持つカスタムAIエージェント機能を停止するとユーザーに通知しました。

ByteDance and Alibaba to disable humanlike AI custom agents as new rules loom | South China Morning Post https://www.scmp.com/tech/big-tech/article/3359482/bytedance-and-alibaba-disable-humanlike-ai-custom-agents-new-rules-loom

友人や家庭教師、秘書などの役割を設定することで、チャットAIは単に質問へ答えるだけでなく「特定の人格を持つ相手」のようにも使えるようになりました。DoubaoとQwenでも、企業やユーザーが作成したエージェントを選び、用途やスキルや話し方を調整することで汎用チャットボットを名前付きのアシスタントやチューター、ロールプレイ用キャラクター、会話相手として使える仕組みが提供されていたとのこと。 ユーザーが「英語の先生として毎日会話したい」「小説の登場人物のような相手と話したい」「悩みを聞いてくれる相棒が欲しい」と考えた場合、人格や口調を固定できるAIエージェントは便利です。毎回細かい指示を入力しなくても、同じ雰囲気で返答してくれるため、AIを道具としてではなく継続的な会話相手として使いやすくなるわけです。

一方で毎晩同じAIキャラクターに悩みを打ち明けたり、未成年者が仮想の恋人や家族のようなAIと長時間やり取りしたり、個人的な相談をAIに蓄積したりする使い方では、感情的な依存やプライバシー保護、心身への影響といった問題が出てきます。中国政府の新規則も、過度な迎合による依存や没入、自傷や自殺を助長する内容、個人情報やプライバシーを聞き出す内容、未成年者の心身に影響する内容などをリスクとして位置付けています。 中国政府が打ち出した解決策は、人間らしい人格や思考パターンや会話スタイルをまねて、継続的な感情交流を行うAIサービスを「擬人化インタラクションサービス」として明確に規制対象にすることです。この新規則では文字、画像、音声、動画などを通じた感情的なケア、寄り添い、支援が対象とのこと。継続的な感情交流を含まないカスタマーサービス、知識Q＆A、仕事用アシスタント、学習教育、科学研究向けサービスは対象外とされています。

規則対応として、Doubaoはユーザーに対し、エージェント機能を2026年7月15日に終了すると通知しました。2026年10月15日以降、関連データは同社のプライバシーポリシーに従って処理され、アプリ内で閲覧したり復元したりできなくなるとのことです。 Qwenも同様に、「人間らしい対話エージェント」とユーザー作成エージェント機能を2026年7月10日に無効化し、Qwen内の関連エージェント機能・サービスを2026年7月15日に停止すると通知しました。停止後は、関連するエージェント設定や過去の会話にアクセスできなくなると報じられています。

新規則はサービスを完全に禁止するものではなく、提供事業者に対してユーザーがAIとやり取りしていることを明確に知らせること、過度な依存や没入の兆候がある場合に注意を表示すること、2時間を超える連続利用時に利用時間への注意を促すこと、ユーザーが終了を求めた場合に速やかにサービスを停止することなどを求めています。また、未成年者には仮想の親族や仮想のパートナーといった親密な関係を演出するサービスを提供してはならないとも定められています。

中国政府は急成長するAI分野に対する規制枠組みの整備を進めており、今回の規制もその一環とみられています。