MAIL MAGAZINE

下記からメールアドレスを登録すると、FUZEが配信する最新情報が載ったメールマガジンを受け取ることができます。


人は無慈悲な司令に従えるか?戦術ゲームのニューラルネットワークAIが突きつける未来の戦争

ARTS & SCIENCE
ライターabcxyz
  • はてなブックマーク

人工知能が国境を防衛する」という未来がありえるだろうか?

その考えに恐怖するのも無理はない。自らの未来と命をかけて国境を越えようとする者たちを、血も涙もない人工知能(AI)に指令された兵士たちが無慈悲に攻撃する...。そんな光景が脳裏をよぎる。今すぐにやって来る現実ではないかもしれないが、この「AIが国境を守る」というアイデアは、誰あろう戦術ゲームにニューラルネットワークAIを導入したゲーム開発元から出た言葉だ。

ロシアのゲームデベロッパーNival制作の『Blitzkrieg 3』は第二次世界大戦を舞台にしたリアル・タイム・ストラテジーゲーム(RTS)だ。ゲームは未だ開発中だが、"RTS初のニューラルネットワークAI"である「Boris」と戦うことができるようになっている。こちらがその動画だ。

動画はBlitzkrieg 3 Official English Channelより

一般にゲームに用いられるAIは、通常スクリプトや優先事項リストを元に行動を選択する。単純化すれば「Aが起きたらBをする」といった具合だ。よほどうまく作られたAIでない限りは、プレイヤーはAIの特性を理解さえできればその裏をかくことができる。だから上手いプレイヤーにはAIとの対戦は物足りないことがほとんどだった。

中には、戦場の霧(*)まで見通すなど、プレイヤーが知り得ない情報を元に行動するような、人間プレイヤーにとって不公平な方法を用いるAIも聞かれた。そういったチートでもしない限り、人間の上級プレイヤーと対等に渡り合えるAIが稀なのも事実だろう。しかしニューラルネットワークAIであるBorisはただのAIとは違う。数秒おきに状況を分析して(Niviaの言葉をそのまま使えば)「理解し」、相手の次の行動を予想し、自らの戦略に反映するのだ。上の動画では、敵が強すぎると判断して自軍ユニットを温存し、重要拠点を奪うために弱い敵ユニットは無視している。

* 戦場の霧(Fog of war):RTSゲームでは、戦場において自軍ユニットが見渡せる範囲外など現状が確認できない部分を指す。

勝利だけがゲームか

今回Nivalにゲームキーを提供され、筆者も実際にBorisとの対戦を試してみた。

ゲームでは、マップ上に数カ所ある拠点「コントロールポイント」を征服して保持することでポイントが溜まっていき、決められたポイント数に先に到達したプレイヤーが勝利する。ゲームを勝利するためにいちばん重要なのはコントロールポイントであり、そのためなら幾ら自軍の部隊の犠牲が出ても構わない。

RTSの腕はあまり立たない筆者にとってはBorisは(他の通常のAIと同じく)強敵だった。だがそんな筆者が感じたのは、Borisの「人間っぽさ」だ。

これまで私をこてんぱんに負かせてきた多くのRTSゲームのAIは、効率よく編成された部隊による物量戦とか、こっちに来ると思ったら裏をかいて別方向から本隊が来た、とか、大まかに言ってしまえば「大局的な戦略」を行なうものだった。一方のBorisは、大局的な戦略ももちろん取るが、それだけでなく、チマチマと各部隊や兵力を動かしてこちらの部隊と距離を取ったり、支配するコントロールポイントに爆撃が行なわれる際に部隊をそこから待避させ、爆撃終了後にまた部隊を戻したりといった、人間らしい局所的でセコセコした操作も見られた。

もちろんBorisだって完璧ではなく、私が勝利したこともあったし、時には奇妙な挙動をしたりもしていた(そういえば、関連性は薄いのかもしれないが、ニューラルネットワークAIがプレイする『Doom』も奇妙な動きをしていた)。例えば私の対戦車部隊が待ち伏せしているところに何度も戦車を送り込んできては破壊されることが繰り返された。

しかし深読みすれば、意図的に何度も戦車をそこに送り込むことで「もしかしたらまた敵戦車がここに来るかもしれない」と私が考えて対戦車部隊をずっとそこに留めれば、この部隊が私の他の部隊と合流しないから、結果として私の戦力が分散される事となる。そして対戦相手の戦力が分散されればそれだけコントロールポイントが取りやすくなる...ここまでBorisが先読みしてプレイしていたかはわからないが、結果としてこの対局ではBorisが勝利を収めた。

たしかに「Boris」はニューラルネットワークAIによって、人間プレイヤーと対戦しているかのような手応えのあるゲームプレイを提供することには成功するだろう。しかし「人間らしい能力」と「人間っぽさ」はまったくの別物だ。

"どのゲームをプレイする誰であっても、勝利を望みます。Borisも例外ではありません"

Nival社PR担当のDmitri Ogorodnikov(筆者の取材に対して)

果たして人間にとって、勝利だけがゲームを遊ぶ目的だろうか。あなたがゲームをする目的はなんだろう? もちろん、勝つため、より強くなるため、という人もいるだろう。しかしゲームをプレイするそもそもの目的は、楽しむためだったり、日常生活から抜け出す息抜きだったりするのではないか。

だからこそ人間のプレイヤーは時としてルールから逸脱する。あまりに敵が弱いことに同情し、おちゃらけたことをしてみたり。逆に相手を嘲りティーバッグ(*)してみたり。ゲームの目標が相手を殲滅するゲームにも関わらず、マルチプレイで互いが互いを撃ち合うことなく、ただ対戦相手と共に戦場を駆け回ってみたり。なぜだかわからないが、ゲームとしての目標を無視して、遊ぶ。そんなことが人間と人間とのマルチプレイでは起こり得る。

* ティーバッグ:FPSゲームなどで倒した相手の顔に股間を近づける行為。

ゲームという枠組みの中に、その枠の内側に入れ子式に存在するルール。その中でルールという枠から出られないのがBorisだ。対する人間は「勝利を目指す」というルールを無視し、ゲームという外枠の中でも自由に遊ぶことができるし、ゲームという枠組みのさらに外と自由に行き来もできる(例:敵に負ける度にショットグラスを空にする、なんていうドリンキングゲーム)。

いくらニューラルネットワークAIが単一の物事を人間のように行なうことができるようになっても、設定された枠から出られなければ人間に近づくことは不可能だ。「特化型」と「汎用型」で言うところの特化型AIがBorisだ。人間のように枠内外を行き来して考えられる汎用AIの登場はまだ先のことかもしれないが、限定された枠内のなかでならニューラルネットワークAIがうまく機能することは囲碁や戦闘機のシミュレーションで人間を打ち負かしてきたことからも明らかだ。

動画はBlitzkrieg 3 Official English Channelより

"遅かれ早かれ、AIベースの将軍たちが人間の将軍に勝り、AIの操る軍が国境を防衛するようになるだろう"

Nival社、Borisの発表文にて

囲碁は複雑なゲームだ。碁盤の狭い有限空間の中で比較的シンプルな囲碁のルールから導き出される解は膨大で、近年ようやくニューラルネットワークAIのAlphaGoが人間を負かすことができたばかりだ。

しかし19本の線が縦横に引かれた碁盤と、国境の防衛とはわけが違う。特にNival社のあるロシアのような大きな国の国境では、比較にならない複雑性が加わる。もちろん囲碁のように二次元の世界でもなければ、平時に飛んで来るのは碁石ではなく人や動物。「防衛」しなければならない状態ではそれが兵士や戦車、そして鉄の雨に変わる。戦略ゲームにニューラルネットワークAIを投入したNivalは、そんな「国境を守る」という複雑かつ人命にも関わる仕事にAIが就く未来を見ているというのだろうか?

もちろん将来的にはNivalの言うとおり「AIが国境を守る」ことも可能かもしれない。そうなった場合に、国境防衛に限らず複雑な枠組み内で物事を実行する特化型AIにとって、重要なのはルールだ。

司令官と、従う者、従わざる者

人間はルールの外にある社会通念や利害関係、自らの経験までもを踏まえた上で「それに従う」という決断を行なうが、当然ながらそこには「従わない」という選択肢も残されている。また、矛盾を多く含んだファジイなルールでも複数の枠組みをまたいだ解釈に基づき実行に移してきた。法律にしろ社会通念にしろ、これらをどうやってAIに「理解」できるルールの中に落とし込んでいくのか。そして、果たしてAIが実行するためのルールは人間にとっても納得できるものとなるだろうか。

世のルールは時として非情だ。逆に考えれば、人間ならば良心の呵責のせいで迅速でルールに沿った決断が難しい仕事にはAIが向いている。国境防衛をAIに任せれば、悲惨な目に遭い命からがら逃げてきた難民を感情に揺さぶられることなく送り返したり、国境をまたいだ人物に対しルール通りの無慈悲に銃殺処分を下したりすることもあるだろう。もしAIではなく人間が担当していれば、ルールの外に存在する良心の呵責や、その後の将来を思い描くために生じる葛藤があるだろう。そのおかげで生まれた逸脱行為によって人命が助かる可能性や、表面上はルールに従いながらもわざと「失敗する」ことで従わない方法があり得ることは歴史も証明している(それを擬似体験してみたいならばゲーム『Papers, Please』をお薦めする)。杉原千畝を思い出してもいい。

『Papers, Please』トレイラー。動画はdukope1より

とは言え、あくまでもAIそのものは指令を出す存在であり、実体を持ったその遂行者ではない。国境防衛をAIが担当する時代が来るとして、その指示を受けて動くのは誰となるのか。ロボット技術の発展も目覚ましいものがあるが、機動性、柔軟性、回復性、そしてもしかしたら金銭的コストなどを考えると、ロボットの国境警備隊員が人間の隊員を追い越すのは、物理的なブレイクスルーでもない限りはしばらく先のことだろう。となると戦争で人間の策士よりも秀でたAIを指揮官に、人間の兵士たちがその司令に従い戦う日のほうが、ロボット兵の活躍よりも近くに来ているかもしれない。

しかしそうなれば「人間をいかにして確実に指令に従わせるか」という問題が出てくるのではないだろうか。いくら効率的な戦術をAIが生み出したとしても、その指令を実行に移すのが人間である限り、その不確実性は問題となる。ルールを無視することが可能な人間という存在は、非情な命令にも黙って従うだろうか?

かつて東西ドイツの東側から国境警備を担当したドイツ民主共和国国境警備隊は、ルールに従わない可能性を考え、二人一組で警備にあたらせた。「相方が逃亡しようとする場合は射殺せよ」という指令があったのだ。相方が何度も同じになれば互いを射殺するのが難しくなるだろうと毎回組み合わせを変えるようにしたり、国境を越えようとする者を撃ち損じれば罰があった。そもそも直接手を下す部分は人間に任せず、地雷を敷いたり、フェンスを登ろうとする者に自動で発砲する装置なども導入されていた。

だがルールの入っている枠組みさえ捻じ曲げてしまえば、人間を特化型AIのように単純化しルールに黙って従わせることも難しくないかもしれない。敵前逃亡をすれば射殺するなど、ルールに従わないことに対する罰の恐怖が従うことへの抵抗感を上回るようにしたり、武装勢力のYouTube動画などに代表されるプロパガンダや洗脳により人間の価値観を騙したり改変したり、過去の大戦でも使われたメタンフェタミン(覚せい剤)やヘロインなどの薬剤により感情、感覚を変化させたり。

将来的には『エンダーのゲーム』や、TVシリーズ『ブラック・ミラー』の「虫けら掃討作戦」などSF作品で見ることのあるVR/ARやインプラントなどで実際の行為を置き換え(『ウォー・ゲーム』なんかもこれに当たるだろう)、ルールに従うことへの抵抗を減らし人間に任務を遂行させることもあるかもしれない。そんな世界が来るとは考えたくないものだが。

「Borisはいつまでも学び続けるんでしょ?」
「はい、そうです」

Nival社、BorisのFAQにて

常に進化し続け、あたかも人間のように戦略ゲームをプレイすることを学んだニューラルネットワークAI「Boris」。単純にゲームの勝利を掛けた試合で人間と互角またはそれ以上にうまく戦うという面では、Borisは成功することだろう。そのイメージ画像では目を爛々と輝かしてこちらを睨みつけるBorisだが、そんな戦術AIの活躍がエンターテイメントの中に完結している今はまだ人々の注目も薄い。

それでも、第二次世界大戦を舞台にAIが生身の兵士たちに指示を出し戦争を遂行するこの作品は、もしかすると来たるその日への伏線なのかもしれない。

#未来世紀シブヤ2017

100年後、「2017年の渋谷」はどんな姿をしているだろう?