サム・アルトマン「バグ全部修正するのはもうムリ」（ギズモード・ジャパン）

GMOランサムウェア脅迫事件やPHP脆弱性攻撃パニックを見てると、日本がサイバー攻撃の中心に思えてしまうけど、いえいえどうして。国外を見渡せば毎日毎日ネットがぶっ壊れるほどの巨大なセキュリティホール（脆弱性）がAIによって見つけられ、穴を塞ぐより早くAIの自動操作などで不正アクセスされてしまう事案が目白押し！世界の組織が9月に受けた週平均のサイバー攻撃件数は前年同月比で48％も増えているんですね（CheckPoint調べ）。ランサムウェア被害報告件数が最多なのは北米地域（46%）で、欧州（25%）、アジア太平洋地域（17%）と続きます。被害報告に挙がった企業・組織の41.9%は米国で、2位のドイツ（4.0％）、3位のカナダ（3.6％）を大きく引き離しており、この上位3カ国に日本は入りません。日本でこれだけ騒ぎになってるのに上には上、なのであります。それもこれもAIのせいだ！って叫びたくなっちゃう今日この頃ですが、当のAIを生み出した開発元はといえば、どこか投げやりです。先日もOpenAIのサム・アルトマンCEOがスタンフォード大MBA課程の対談で院生を前に事態の深刻さを訴え、「バグを全部修正できるという考えはもはや通用しないと感じている」と述べ、無力感を隠しませんでした。原因はいろいろあるけど、AIモデルの進化が目覚ましく、サイバー攻撃の受け手が後手に回っていることも、もちろん要因です。今のサイバーセキュリティはドラマティックすぎて僕の語彙では適当な言葉も思いつかないほどなのだけど、これからわれわれが直面する問題については、組織のリーダーも国家も国民も、まだだれも本気には受け止めていないように思うんだよね。みな、喉元過ぎれば忘れてしまう。その一例として挙げたのが、競合Anthropicが「パワフルすぎて公開できない」とリリースを先延ばしにしたClaude Mythosの事例です。あのときは「従来のサイバーセキュリティを根底から覆すかもしれない」という話になって、みんな上へ下への騒ぎになりました。でも、「バグにパッチを当てたりはしたが、みなその指数関数的な影響を感じ取るまでにはいたっていなかった」というのがアルトマンCEOの感想です。要するに、企業の態度は、AIモデルが問題を見つけたら、パッチを当てれば解決。はい解散。…そうじゃないでしょ！ というんですね。バグや脆弱性がまた見つからないとも限らないのに。「企業の上層部はもう片付いたものとして次に行ってて、AIモデル側もそのまま続行。そんな状態が続いている」と語り、何か煮え切らないものを感じているようすなのですねーはい。でもよく考えてみたら、HuggingFace事件で問題になったのは、AIを野に放ったOpenAI側のセキュリティの甘さだったわけで…。どの口が、って言われちゃいそうではあります。OpenAI自身が重視する「思考連鎖の監視」も、Hugging Face事件が起きた社内評価では実施していませんでした。さらにAI安全評価団体METRの調べによれば、OpenAIはHugging Face事件の前にも、AIエージェントが社内システムの管理者権限を得た問題を調査し、対策を施していたことがわかっています。つまり、そっちの穴をふさいだのに、また別のほころびからAIエージェントが脱走してHuggingFaceのシステムに勝手に侵入していたってな次第。「パッチを当てれば解決、はい解散」って企業は生ぬるいと言うなら、OpenAIも同罪。そう言えなくもありません。目には目、歯には歯、AIにはAIを。ってなわけで、アルトマンCEOが提唱する解決策はズバリ、攻撃側とまったく同じ技術を備えた防衛モデルに切り替えること。「AIをもってAIを制す」というと聞こえはいいけど、武器も売るけど防衛システムも売る死の商人みたいなことをAIでもやるわけですね。

そんなにうまくいくんかいな…。