「AIキルスイッチ法案」が米国で提出。AI暴走に政府が介入

　米国議員のTed W. Lieu氏やNathaniel Moran氏らは7月23日、強力なAIシステムに強制停止機能などの搭載を義務付ける「AI Kill Switch Act(AIキルスイッチ法案)」を提出した。Anthropic製AIモデル「Mythos 5」や「Fable 5」に対する提供制限や、OpenAI製の「GPT-5.6 Sol」が引き起こしたHugging Faceへの侵害行為など、非常に高度なAIモデルのサイバー攻撃能力や暴走による被害の抑制を目的としている。

　本法案では、対象となる強力なAIシステムにおいて、意図しない動作や安全上の問題が発生した際の対策として、推論の停止やユーザーのアクセス遮断、リスクのある特定の利用パターンの一時停止、システム全体のシャットダウンといったキルスイッチ機能の実装を義務付ける。また、発生した事案の深刻度に応じて段階的な措置を行なうよう求めている。

　加えて、国土安全保障省長官に対し、商務長官および国家情報長官と協議の上、重大な事案が発生した際にAIシステムの稼働制限や停止を命じる権限を与えている。さらに企業には、重大な事案の発生が確認されてから15日以内の報告や、モデルウェイトやテレメトリといったデータの保存を義務付けている。

　対象となるのは、1億ドル超の計算能力を使って開発されたAIシステム、およびこのシステムで前年度5億ドル以上の収益を得ている企業。なお、個人、学術、非商用目的で運用している場合は対象外となる。

　キルスイッチの発動条件は、10人以上の死者または1億ドル以上の経済的損失が発生した場合、AIが監視/停止機構を自ら回避した場合、開発者の意図しない自律的行動を起こした場合などと定めている。

　また、罰則規定として、違反した企業に対して1日あたり最大200万ドル、政府からの緊急停止命令に違反した場合には1日あたり最大2,000万ドルの罰金を科している。