善悪は、それを用いる者の心の中にある：読書録「人工知能の『最適解』と人間の選択」

・人工知能の「最適解」と人間の選択
著者：NHKスペシャル取材班
出版：NHK出版新書

人工知能の「最適解」と人間の選択 (NHK出版新書 534)

NHKスペシャルの「人工知能 天使か悪魔か」を2作ともみて、一本目の書籍化も読了済。本作は2作目の書籍化になります。
もちろん基本的には番組のアウトラインを踏襲してるんですが、映像化できなかった部分を突っ込んで解説してくれたりするので（2作目で言えば金融機関での使われ方とか）、書籍化はゆっくり考えるにはふさわしいですね。
もちろん「映像」のインパクトがあるので、テレビ番組は番組として興味深い。
要は補完し合う関係…と言えましょうか。

前作の結論と同じですが、
「人工知能の進化は確かであり、それがビジネスや生活の中に入り込んでくるのも不可逆的。その『道具』をどう使うべきか？人工知能の特性を把握した上で、それを考え続けなければいけない」
まあ、こんなところでしょうか。
前作が「将棋」をメインにしていたのに対して、本作では人工知能がビジネスや生活に入ってきている様子、その一歩手前の技術等を見せてくれます。
「便利なのは間違いない。でも…」
というのが制作者のスタンスでしょう。

たしかに保釈の判断に人工知能が使われているのについては「う〜ん」って感じがあります。データそのものにバイアスがあるという点も指摘されてますし。
一方で、ドライバーの安全診断をするシステムに関するコメントについては「言挙げしすぎじゃない？」って感じも。
運送業者等の安全運転技術が向上することは社会的にも大きなプラスになることでしょう。
「その診断システムを悪用して、人種差別等による不当解雇をする可能性が…
ってのは人工知能とは関係ない、「人間性」の問題。
こういうところでこういう指摘をするところに、「なんだかな〜」って思っちゃいます。

とは言え全体的に「人工知能の今」を考える上において、番組と本書に目を通しておくことには意義があると思います。

＜効率化を重視する世の中の流れの中で、いつしか「無駄のない最適解」を求める傾向が強まっている。私情に左右されず、冷徹に「最適解」を見出す人工知能が重宝されるわけである。それが社会を豊かにし、多くの人の幸福を守ることもあるだろう。
その一方で、人工知能がスマートに「最適解」を導き出せるようになればなるほど、人それぞれの曖昧で非効率な解を「尊いもの」とする回帰的な動きが強まっていく可能性もある。個人的には、人工知能の社会進出が、むしろ「本当の人間の価値」を浮かび上がらせるのではないかという期待を抱いている。＞

データによって「解」が変わるような「最適解」は＜正義＞でもなければ＜絶対＞でもない。
だが、合理的判断に対して感情的（時には私欲によって）回帰的傾向を強めることは＜社会＞や＜人間＞の可能性を狭めていくことになる。
「本当の人間の価値」が浮かび上がってくることを期待する気持ちはたしかに僕にもありますが、その「曖昧さ」の裏側に＜思惑＞や＜忖度＞wのようなものを感じてしまう自分もいます。

＜人工知能は、天使か悪魔か。
「最適解」が導く世界をより良いものにするためには、その問いに向き合い続けなくてはいけないはずだ。＞

ま、そういうことですね。