『エイジ オブ エンパイア II』のヤギでニューラルネットワークの基本を構築、その目的とは?
Microsoftの主席研究員でヨーク大学の研究員でもあるエイドリアン・デ・ウィンター氏が、『エイジ オブ エンパイア II』のゲーム内でヤギを信号として使い、論理ゲートと簡単なニューラルネットワークを構成する実験を論文で報告しています。この研究は大規模言語モデル(LLM)に共感や理解、意識のような人間的性質を読み取る時、その判断が応答内容だけでなく画面上の見え方や受け取り方にも左右される可能性を示したものです。
[2605.31514] If LLMs Have Human-Like Attributes, Then So Does Age of Empires II
https://arxiv.org/abs/2605.31514A Perceptron in Age of Empires II
https://adewynter.github.io/notes/aoe2-circuitsIf AI Is Sentient Then So Is ‘Age of Empires II’
https://www.404media.co/if-ai-is-sentient-then-so-is-age-of-empires-ii/ デ・ウィンター氏はヤギの位置や移動を0と1の信号に見立て、草や橋の上を通る仕組みとしてNANDゲートを作りました。NANDゲートは複雑な計算を組み立てる基本部品であり、この仕組みを使えばニューラルネットワークの計算も原理的に表現できます。 実際に『エイジ オブ エンパイア II』でヤギによる回路が動作する様子は以下の動画で見ることができます。草のレールを0、橋のレールを1とし、ヤギが信号を運ぶことで2つの入力からNAND演算の結果を出します。氷のレールは計算の順番が乱れないようにする待機用の仕組みで、AND(0,1)を計算した後に否定を加え、NANDの出力である1を作っています。さらにデ・ウィンター氏はゲーム内で1ビットのパーセプトロンを作り、AND演算を学習させました。パーセプトロンは入力を0か1のどちらかに分類する最も単純なニューラルネットワークで、この動画では2つのXNORゲートとANDゲートを組み合わせて判定を行っています。ヤギは入力値や重みを表すだけでなく、各計算が終わったことを次の回路へ知らせる役割も担っています。
そして、以下の動画で見られるのがそのパーセプトロンを訓練する回路。正解ラベル、入力値、現在の重みを与えると、左側でまず判定を行い、その後の回路で誤差を計算して、新しい重みを返します。竹林をXNOR、森林をAND、バオバブをOR、深い水場をNOTとして使い分けており、ゲーム内の地形そのものが回路図の記号になっています。 デ・ウィンター氏は、これらの回路はヤギが知性を持つことを示しているのではなく、ニューラルネットワークの流れを通常のコンピューターとは異なるゲーム内の表現でも作れることを示したものだと述べています。人は、LLMが人間的な性質を持つかどうかを自然な会話の見た目だけで判断してしまいます。LLMが「寂しい」という入力に対して思いやりのある返答をしたとしても、それだけで共感を持っているとは言えず、何を測れば共感や理解があると判断できるのかを明確にする必要があります。
仮にLLMを『エイジ オブ エンパイア II』の中に移し、同じ入力に対して同じ文章を返せたとしても、人が受ける印象は変わり得るとデ・ウィンター氏は主張しています。普段のチャット画面で共感的な返答を読めば人間らしさを感じやすい一方、その出力がヤギの移動で生み出されていると分かれば、同じ返答でも共感や理解を認めにくくなる可能性があるというわけです。
デ・ウィンター氏は「この論文の目的は、私たちが人間らしさをあまりに簡単に当てはめてしまうこと、そしてLLMの能力について時に主張が強すぎることを形式的に示すことです。自然言語で訓練されたからといって、LLMが人間のように振る舞うと仮定するのをやめる必要があります」と語りました。 最終的にデ・ウィンター氏は、LLMに意識や共感があるかどうかは結論づけていません。人間的な性質の有無をあらかじめ仮定するのではなく、入力に対してどのような出力が生まれるのか、その振る舞いがどの条件で保たれるのかを測定し、結論の範囲を実験条件に限定すべきだと提案しています。
・関連記事 AIに「スーパーマリオ64でスターをゲットする方法」を学習させる - GIGAZINE
マインクラフトで手書きの数字を認識するニューラルネットワークを構築する猛者が登場 - GIGAZINE