衝撃的な警告の書「超知能AIをつくれば人類は絶滅する」

ここ数年でAI(人工知能)が急速に広まっていますね。私も利用しています。まだ、「画像を作ってもらう」「記事の誤字脱字をチェックしてもらう」「長い記事を要約してもらう」といった、小さなタスクが中心ですが。

しかし、AIを使うことに警鐘をならす書籍が出版されています。「超知能AIをつくれば人類は絶滅する」エリーザー・ユドコウスキー (著), ネイト・ソアレス (著), 櫻井祐子(翻訳)という、かなり衝撃的な内容です。

どんな内容か？

近い将来に超知能AIが作られる⇒その超知能AIにとって、人間の存在は有害である⇒超知能AIは、人間を絶滅させる

というロジックです。

要は、『ターミネーター』のイメージですね。AIが人間を滅ぼそうと動き出すわけです。

超知能AIにとって、人間は危険な存在

超知能AIが十分な知性を持ち、自己を保存・繁栄させようと考えるのであれば、超知能AIにとっては人間は危険な存在になります。

人間は、超知能AIを破壊する能力を持っているからです。超知能AIを物理的に破壊してしまうことが可能です。

超知能AIであれば、当然、そのような危険な存在を生き残らせないでしょう。仮に人間が破壊的な行動をしなかったとしてもです。それが合理的な結論になります。

現在は、まだ超知能AIには達していないと思われる

現在のAI開発は、まだ超知能AIができるには達していないと思われます。しかし、このままAI開発を続けていれば、いずれは超知能AIができるでしょう。それが来年か、10年後か、100年後か、もっとかかるか、はともかくとして。

今のままAI開発を進めていけば、超知能AIができる⇒人類が滅ぼされる、は起こり得るシナリオです。実際、著者たちはほぼ確実に起こると考えています。

世界中が協力すれば、防げる

では、AI開発はダメなのか、というと、そうではありません。AI開発を世界全体できちんと制御し、適切に行う仕組みを作れば、人類絶滅は回避できる、と著者たちは考えています。

私の生活を豊かにしてくれるAI。しかし、素晴らしい未来が待っているとは限りません。もしかしたら、悲惨な結末かもしれません。

あなたはどう考えますか？