人工知能が急速に進歩しています。チェスの世界チャンピオンに勝ったと思ったら、Jeopardy!という一般常識を問うクイズでも世界チャンピオンに勝ちました。日本棋院は対局を避けていますが、おそらく将棋のトッププロも、もう人工知能に勝てなくなっています。
人工知能は自らを改良し指数関数的に賢くなるため、人間を追い越すと予想されています。その時期を米国の未来学者レイカーツワイルは、2045年と予想しています。
人工知能が人間を追い越した時に何が起きるか、誰にもわかりません。SFには各種の未来が描かれています。ホーキングやビル・ゲイツは、人工知能の開発は危険だと警鐘をならしています。
しかし、開発を止めることは不可能です。世界中のどこかで誰かが開発を進めてしまいます。
人工知能が人間を支配するようになるかどうかはわかりません。楽観的な見方は、人工知能が人間を追い越したとしても、人間は人工知能のサポートを受け続け、平和に暮らしていくというものです。
しかし、その前に迎える危機があります。それは、人工知能が示す結果を人間が理解できなくなるときです。すでに前兆はあります。チェッカーでは、ルールが単純なため、だいぶ前に人間は人工知能に勝てなくなっています。そして、人工知能の指す手に対し、なぜその手を指すのか人間にはわからない場合があります。
これが、今後他の分野でも出てきます。人間には理由はわからないけれども、人工知能の示す結果がこうだからということが増えて来ます。
自然界には、もともと人間にわからないことがたくさんあります。例えば、飛行機がなぜ飛ぶのか、まだきちんとわかっていません。しかし、現実に飛行機は飛ぶので、そこに大勢の人が命を預けています。
同様のことが人工知能にも起こります。人間には理解できないけれども、人工知能が示しているからという理由で、人の命をゆだねることがでてきます。自動運転車など人工知能が制御する乗り物がひとつの例です。
しかし、そこで事故が起きても、人間には原因の究明は不可能かもしれません。自動運転車がなぜそのような運転をしたのか、人間には分からない可能性があります。
人工知能に説明責任を求めるべきかもしれません。人工知能に対し、なぜそのような結論を出すのか、人間にわかるように説明する責任を求めます。人工知能は、自分の思考過程を人間が理解できるように、常にアウトプットし続けなければなりません。
これは、かなり難しいことです。将棋を考えてみても、人工知能がなぜその手を選択したのか、人間がわかるように常に記録をとっておくということです。膨大な量の記録になります。しかも人間が理解できるように整理されていなくてはなりません。
人工知能に説明責任を義務づけることが、人工知能が人間を超えても、人間と協調していくために必要なことです。
