AIが人間を殺す日 　「今から30年以上も前に発見された人工知能の根本的問題が、いまだに解決されないまま残されているのだ」（230ページより）

著者は、作家・ジャーナリストで、情報セキュリティ大学院大学客員准教授の小林雅一さん。『AI の衝撃　人工知能は人類の敵か』など、人工知能に関する評論書を複数刊行している。
本書は、グーグルやテスラが開発している自動運転車、IBM の人工知能ワトソンを応用した自動医療診断、そして軍事の 3 つの分野を概観しながら、人工知能の限界について解説している。『AI が人間を殺す日』という扇動的なタイトルはともかく、人工知能が万能ではないことを、あらためて確認することができた。

まず、グーグルやテスラなどが開発にしのぎを削る自動運転であるが、これは、交通法規に従うために古典的なルール・ベースの AI を利用しており、さらに不測の事態に対応するために統計・確率ベースの AI に加え、センサーから入ってくる様々な情報を処理するために最新のディープラーニングも搭載しているという。
それでも事故はゼロにできない。小林さんは、「『正規分布(理論)上は起こり得ない』とされることが、現実世界では意外に高い確率で起きる」（99 ページ）から、原理的に事故の回避は不可能だという。

2 つ目は、医療分野における自動診断だ。
『IBM 奇跡の“ワトソン”プロジェクト』（スティーヴン・ベイカー、2011 年（平成 23 年）10 月）では、クイズ王に勝つことを目的に開発された AI「ワトソン」だが、毎年 150 万本も発表する医学論文を全て学習し、いまや専門医より知識を蓄えた医療AI に成長している。実際、東大では抗癌剤が効かない患者が珍しいタイプの白血病であることを言い当て、薬の種類を変えることで患者は回復した。
だが、AI による診断は、診断過程の論理が見えにくいという欠点がある。また、学習するために膨大な量の個人情報（診療情報）を集めているということも、小林さんは問題視する。

3 つ目の人工知能搭載兵器だが、軍事機密の壁があるとはいえ、取材の甘さが気になった。スマート核兵器に対するアンチテーゼを提起はしているものの、それと人工知能の関係については材料が乏しいように感じる。
30 年以上経った現在も「モラベックのパラドックス」が解決しないのは、AI に関わる数学的な理論が進歩していないからではないか。

小林さんは「AI がもたらす真の脅威とは、それが人間を殺すことではなく、むしろ人間性を殺すことなのかもしれない。私達はこれを瞥戒する必要があるのだ」（234 ページ）と結ぶが、私は順序が逆だと思う。人間が人間性を失うような方向へ進むとき、科学の申し子である AI もまた、人間性を失ってしまうのではないか。
最後に小説フランケンシュタインが紹介される。小林さんは「暴走する科学技術と人間との悲劇的な関係を描いている」（235 ページ）と語るが、私の考えは違う。作者のメアリー・シェリーの母は、メアリーを産んだことで死んでしまった。また、メアリー自身も詩人パーシーと恋に落ち妊娠するが、赤ん坊は産まれると、すぐに死んでしまった。二度目の妊娠で長男を授かったとき、メアリーはフランケンシュタインを書き、この作品を「私が産んだ忌まわしい子ども」と呼んだからだ。
フランケンシュタインは善良で傷つきやすい性格として描かれた。そう、科学は善良で傷つきやすいがゆえに、人類の敵ではないにもかかわらず、ときに忌まわしい存在となるのではないか――それが、30 年以上にわたって人工知能に接してきた私の感想である。