人工知能の発達で怖いのは人工知能の示す結果を人間が理解できなくなったとき

人工知能

人工知能が急速に進歩しています。チェスの世界チャンピオンに勝ったと思ったら、Jeopardy!という一般常識を問うクイズでも世界チャンピオンに勝ちました。日本棋院は対局を避けていますが、おそらく将棋のトッププロも、もう人工知能に勝てなくなっています。

人工知能は自らを改良し指数関数的に賢くなるため、人間を追い越すと予想されています。その時期を米国の未来学者レイカーツワイルは、2045年と予想しています。

人工知能が人間を追い越した時に何が起きるか、誰にもわかりません。SFには各種の未来が描かれています。ホーキングやビル・ゲイツは、人工知能の開発は危険だと警鐘をならしています。

しかし、開発を止めることは不可能です。世界中のどこかで誰かが開発を進めてしまいます。

人工知能が人間を支配するようになるかどうかはわかりません。楽観的な見方は、人工知能が人間を追い越したとしても、人間は人工知能のサポートを受け続け、平和に暮らしていくというものです。

しかし、その前に迎える危機があります。それは、人工知能が示す結果を人間が理解できなくなるときです。すでに前兆はあります。チェッカーでは、ルールが単純なため、だいぶ前に人間は人工知能に勝てなくなっています。そして、人工知能の指す手に対し、なぜその手を指すのか人間にはわからない場合があります。

これが、今後他の分野でも出てきます。人間には理由はわからないけれども、人工知能の示す結果がこうだからということが増えて来ます。

自然界には、もともと人間にわからないことがたくさんあります。例えば、飛行機がなぜ飛ぶのか、まだきちんとわかっていません。しかし、現実に飛行機は飛ぶので、そこに大勢の人が命を預けています。

同様のことが人工知能にも起こります。人間には理解できないけれども、人工知能が示しているからという理由で、人の命をゆだねることがでてきます。自動運転車など人工知能が制御する乗り物がひとつの例です。

しかし、そこで事故が起きても、人間には原因の究明は不可能かもしれません。自動運転車がなぜそのような運転をしたのか、人間には分からない可能性があります。

人工知能に説明責任を求めるべきかもしれません。人工知能に対し、なぜそのような結論を出すのか、人間にわかるように説明する責任を求めます。人工知能は、自分の思考過程を人間が理解できるように、常にアウトプットし続けなければなりません。

これは、かなり難しいことです。将棋を考えてみても、人工知能がなぜその手を選択したのか、人間がわかるように常に記録をとっておくということです。膨大な量の記録になります。しかも人間が理解できるように整理されていなくてはなりません。

人工知能に説明責任を義務づけることが、人工知能が人間を超えても、人間と協調していくために必要なことです。

  • このエントリーをはてなブックマークに追加

フォローはこちらからお願いします。

会社勤めから起業するためのウェブ集客セミナー
会社勤めから起業するための7つのステップ