鈴麻呂日記

50代サラリーマンのつぶやき

読書録「人工知能」

・人工知能 人類最悪にして最後の発明
著者:ジェイムズ・バラッド 訳:水谷淳
出版:ダイヤモンド社(kindle版)

人工知能 人類最悪にして最後の発明

人工知能 人類最悪にして最後の発明



個人的にはどちらかというと「人工知能に期待」という本を読んできたので、ここらへんで反対の意見を聞いとこう・・・ということで本書を読んでみました。
本書によれば、
「人工知能はいずれ人類を超えた知能を獲得する可能性が高く(ASI)、それは人類滅亡につながる」。
ま、反対意見としてはこれ以上のものはないでしょうw。


ただ作者の意見が突飛で過激なものかというとそうとも言えず、最近ではホーキンズ博士やイーロン・マスク、さらにはビル・ゲイツまでがこうした危険性に言及しています。(本書は2013年に書かれていますから、こうした「大物」の発言の多くは、以降の話となります)
そういう意味では、たぶん本書が書かれたころに比べると、こうした意見に賛同する人も増えているという状況にはあるんでしょうね。それこそが作者の「狙い」でもあります。


というのも、正直言うと、
「超人工知能が誕生したら、それをコントロールするのは不可能」
らしいんですわ。
そして、
「いろいろな勢力(国家、企業、組織)が人工知能の開発で競争しており、開発に規制を設けることは、競合関係がある以上、無理」
ってという状況もある。
すなわち、(実現性の問題はあるが)「人工知能・超人工知能の開発は不可避」であり、「超人工知能のコントロールは不可能」であり、結果として「超人工知能は人類の存続を保証しない」となる。
「アリの生存を、人間は気にしてないだろ?」
ちゅうことになる訳です。
(「人工知能の実現性」については疑問を持つ向きもありますが、作者はその点に関しては肯定的です)


「じゃあ、どうせいっちゅうねん?」


まあ、そう言うこと。
読み終えて思ったのはまさに「これ」でしたねw。


結局、
「人工知能の危険性を認知する人を増やしていくしかない」
っていうのが作者のスタンスなんでしょう。
で、こういう作品を書き、いろいろなところで発言をしている。
その効果も出てきてはいるが・・・ってのが現状でしょうか?
とは言え、それで「人工知能開発」のペースが落ちるかどうかは不明。
私自身はかなり「懐疑的」です。


個人的なスタンスは「超人工知能の開発」については「?」なところがあります。
むしろグーグルのスタンスのように、
「人工知能の使える機能がどんどん各種の製造品に実装されていく」
っていう段階が継続していき、その中で人工知能的機能がブラッシュアップされていく・・・って流れなんではないかと。
総体的な「人工知能」「超人工知能」って、ホントに生まれるのかわかんないし、あんまり求められてもいないような気がするんですよ。


「そりゃ、甘い」


バラッドさんにはそう言われそうです。
でも開発に動き始めちゃったら、「もう止めようがない」んだもんなぁ。
じゃあ、それを心配しても仕方ないんじゃないかと・・・w。


ただこういう「危険性」が指摘されていること。
このことは僕も気に留めておきたいと思います。
なんだかんだ言っても「スカイネット」(「ターミネーター」のね)はゴメンですからね。