ST.0-1PAR by legoalbert
米国空軍は無人機を使って戦争をしています。現在は、巡回飛行は自律的に行い、爆撃などの攻撃は軍人が遠隔操縦しているそうです。
無人偵察ドローンを運用する米軍の抱える最大にして意外な悩みとは？ – GIGAZINE
この記事によると、無人機のパイロットは、精神的なストレスで脱落者が続出しています。遠隔操縦のため敵から攻撃される恐れはありませんが、軍事的任務と平穏な日常の断続的繰り返しにより、精神のバランスが崩れるそうです。
対策として考えられるのは、完全な自律飛行による攻撃です。無人機が自動的に敵を判断し、攻撃する方法です。
これは一種の殺人ロボットになります。折しも殺人ロボットについての記事も最近ありました。
「キラーロボットを作るな」とホーキング博士や研究者1000名以上が提言 – GIGAZINE
こちらの記事では、ふたつの危険が混同して語られています。
ひとつは、先ほど述べた殺人ロボット、すなわち自律型ロボット兵器です。パソコンやスマホのようにどこの国でも簡単に作れるようになる可能性があります。
これは、きわめて危険な兵器になります。核兵器よりも危険です。自律型ロボット兵器が人間に反旗を翻し、人間を襲う可能性を否定できません。自律的に動く機械が人間の予想できない動きをすることは、多くの例が知られています。
核兵器の拡散を防止するように、自律型ロボット兵器の開発そのものを禁止すべきです。
もうひとつは、人工知能が人間の能力を超えたときの振る舞いです。人工知能は自らを改良することにより加速度的に賢くなり、人間を追い越すと言われています。
米国の未来学者であるレイ・カーツワイルはその時を2045年と予想しています。人間よりも賢くなった人工知能が、人間をどのように扱うかは予想できません。
このことについて、ホーキング博士やイーロン・マスク、ビル・ゲイツなどが警鐘を鳴らしています。
このふたつは区別して考えるべきです。自律型ロボット兵器は人間よりも賢くなくても人を殺せます。人間に対して反乱を起こした時には、圧倒的な武力により人類を滅亡させます。
人間の能力を超えた人工知能がどうなるかは、誰にも予想できません。人間と共存し、人類全体の幸福度を最大化することに貢献する可能性もあります。
逆に人工知能より劣った人間を支配しようとか、滅ぼそうとか、考えるかもしれません。その時に道具として殺人ロボットを使う可能性もあります。
問題は、どちらも開発を止められそうにないことです。特別な原料を必要とするわけでもなく、大規模な施設を必要とするものでもありません。個人でも開発が可能です。
核兵器保有国が増えてきたように、自律型ロボット兵器保有国も増えていきそうです。
人工知能そのものは、民生用にさまざまな開発がすすめられています。チェスや将棋、クイズ番組では人間に勝っています。
自律型ロボット兵器の開発を禁止し、人間の能力を超えた人工知能と共存する方法を見つけない限り、人類は滅亡します。
