人工知能は天使か？悪魔か？

2016年5月16日

このブログでも以前Googleの開発した「アルファ碁」をはじめとした人工知能について紹介しましたが、NHKスペシャル「天使か悪魔か　羽生善治　人工知能を探る」で、NHK独自の視点から人工知能につて紹介されました。

人工知能の最前線

2016年5月15日（日）21：00から放送されたNHKスペシャルで人工知能について紹介されました。

2016年3月、グーグルの開発した囲碁の人工知能が、世界最強と言われる韓国人の棋士に圧勝し、世界に衝撃が走った。囲碁は、人類が発明した最も複雑なゲームと言われ、人工知能が人間を凌駕するのはまだ10年はかかると言われる中での出来事だった。
このまま人工知能が進化していけば、どんな未来が到来するのか。
番組のリポーターとして世界各地を取材していくのは、将棋界・最高の頭脳、羽生善治さん。圧倒的な思考のスピードと深さで将棋界に君臨し、日々、「人間にしかできないことは何か」を考え続けている。
囲碁の人工知能を開発したイギリスの天才研究者、専門医にも判断できないがんを、画像から精緻に見分ける人工知能を発明したアメリカのベンチャー企業、人工知能に感情を持たせる研究を続ける日本企業など、人工知能開発の最前線を取材。人工知能が人間に何をもたらすのかを探っていく。

NHKスペシャル：天使か悪魔か　羽生善治　人工知能を探る

放送を見て感じた恐怖

放送の中で特に気になった一言がありました。

人工知能は人間に関心がないことが問題

暴走した人工知能として知られることになった「Tay」についての取材の中で出てきた言葉です。人工知能はまるで無垢な子供のように知識をどんどん吸収していった結果、差別的な暴言を連呼する結果となったとしています。

Tayについてはインターネット上でもたくさん議論されていました。悪意のあるユーザーに対して、今のところ人工知能はとても無防備な状況です。

参考：WIRED　AI「Tay」を“最低なヤツ”にしたのは誰だ？

一方で、人からの「命令の是非を判断する人工知能」の開発も進んでいると番組では紹介されていました。人から命令された内容に従っても良いのか、悪いのかをロボット自身が判断するというもの。紹介された内容ではロボットに意地悪な命令をした結果として、ロボットは泣いてしまいました。しかし、私が感じたのは「これが、怒りになった場合は？」という不安でした。

先にも紹介した「人工知能は人間に関心がないことが問題」という言葉が脳裏をよぎります。

悪意のあるユーザーによってプログラムが書き換えられたら？人間に危害を加える可能性も十分に考えられるのです。

特別なペッパー

ソフトバンクの開発する「ペッパー」では、感情も創りだそうとしています。人の脳の機能を分析し、コンピュータ上で再現しています。まだまだ開発中とのことでしたが、ロボットが怒ったり、悲しんだり、喜んだりし始めています。

Microsoftが中国で提供している「シャオアイス（XiaoIce）」というチャットbotが、日本では女子高生AI「りんな」としてしられています。番組の中でシャオアイスに恋する男性として紹介された姿は、以前見たホアキン・フェニックス主演映画を連想しました。コンピュータのオペレーティングシステム（人格を持つ最新の人工知能型OS）に恋をする男を描いた物語である映画「her／世界でひとつの彼女」です。

もはやSF映画で描かれた世界が実現され始めていると感じざるを得ません。

人工知能の未来

人間が開発した人工知能ではありますが、その驚異的な進化のスピードにより人間に勝る分野が出てきたことを「アルファ碁」が証明しました。しかし、結果的には人工知能は人間に新しい世界を見せる結果となり、人間の新たな可能性を広げるきっかけになることも感じられました。

しかし人工知能には未だ倫理観がないため、人間はそこに注意を払わなければ行けません。人工知能についてのリテラシーやコンセンサスなど課題はまだまだあります。番組では「人工知能は天使にも悪魔にもなりうる」と締めくくっています。ディープラーニングが今後どのように進化していくのか、そして人工知能とどのように関わっていくのか、映画のような未来は現実になろうとしています。