・無人の兵団 AI、ロボット、自律型兵器と未来の戦争
著者:ポール・シャーレ 訳:伏見威蕃
出版:早川書房
ビルゲイツが「2018年トップ5」に選出した作品。
米レインジャー部隊出身の軍事アナリストが、自律型兵器を軸に、AIの導入も視野に入れながら、最新兵器の現状、今後の可能性、それによって変化する戦争・政治のあり方、その中で取るべき方向性の選択肢等について論じています。
具体例がたくさん出てきますし、現場・後方を通じて、実際に「開発」「運用」を行なっている人物に取材しているので、リアリティ満載。
安易に「開発、配備はんた〜い」とはならず、その<可能性>(メリット)も押さえつつ、<人間>存在の意義(哲学的な意味もありますが、より現実的にも)に踏み込みながら、今後の方向性を提言してくれています。
確かに「未来の戦争」を考える上で、重要な論拠を提示してくれる作品だと思いますね。
僕が読んで思ったのは、
「自律型兵器って、もう結構あるんやね」
ってこと。
まあ、ある意味「ガトリング・ガン」からスタートしてるとは言えますが、現代的な意味での「自律型兵器」も、「イージス艦」から韓国のロボット巡回兵、さらには「完全」自律型兵器である「ハーピー」まで、実際に配備・運用されている自律型兵器は少なからずある。
作者は兵器システムとして<OODAループ>(観測、方向付与、決定、行動)に焦点を当て、
そのループの「中」に<人間>が組み込まれているか、組み込まれていなくても<人間>が監視している体制を重視していますが、「兵器」そのものは、もはや「実現」している、もしくは「一歩手前」(特にAIがらみなんかは)なんや、と。
読んでて、ホッとするのは、各国軍隊の中枢部が「完全自律型兵器」(OOCAループを全て自律して行う兵器)に対してはネガティブで、<人間>の関与が必要だと認識していること。
実例としても、<人間>が関与していることで「破滅的局面」を回避した例が本書内には多く紹介されています。(核の相互牽制…も結構危うい局面があったんやと、やや冷や汗も)
先日見た「ハンターキラー」もそうですが、「人間の(ときに不合理にも見える)判断」が、大局的には破滅的危機を回避する…ってのはハリウッド映画の「お約束」。
それが「フィクション」じゃないケースが少なからずある、っちゅう話です。
怖い話やけど。
その「認識」がありながら、一歩進まざるをえないリスクもあるという認識も共通するというのが、懸念点。
・他国が先んじて「完全自律型兵器」を開発・配備するのではないかという危惧
・人間の反射速度が追いつかない「戦場」の可能性(サイバー戦争はすでにその領域)
自律兵器の方が、「人的被害」を少なくすることができる…という見方も、中長期的には「危うさ」を増している様にも思います。
自分が危機に直面する立場になったら…とも思いますがね。(極東アジア情勢が不安定化している現状は、それを「想像」の範囲から引き出しつつあるのかもしれません)
<抑制ーあまりにも危険で非人道的な兵器の使用を控える意識的な選択ーが、いま必要とされている。(中略)自律のどういう応用が適切であり、なにが行き過ぎで、戦争における人間の判断を放棄しているかについて、各国は了解点をまとめるために協力しなければならない。これらのルールは、人間の意思決定を尊重する気持ちを護るだけではなく、戦争における人間の失敗の多くを改善しようとするものでなければならない。(中略)
機械には多くのことができるが、意義を創造することはできない。(中略)私たちがなにを尊重しているか、どういう選択をすべきかを、機械は答えることができない。私たちが創造しようとしている世界には、知能を持つ機械がいるだろうが、その世界は機械のためのものではない。私たちのための世界なのだ。>(「結論」より)
その通りだと思います。
でもこういう意見も…。
<「だれが[AIの]リーダーになるにせよ、それが世界の支配者になるだろう」>ウラジミール・プーチン
自分を、相手を、<人間>を信じれるか?
問われているのはココです。