AIが想定より早く人間より賢くなる
トロント大学のジェフリー・ヒントン名誉教授が想定より遥かに速くAIが人間よりも賢くなる可能性があると気づき、グーグルにどのような影響を及ぼすかを考えずに、AIの危険性について語ることができるようにするために退職したとTwitterに投稿した。
退職は、グーグルを批判するためではないとのこと。
また、ニューヨークタイムズのインタビューでは、AIが説得力のある偽の画像や文章を作成する能力を持ち「何が真実なのか分からなくなる」世界を作り出すことを懸念している。
「悪用をどのように防げばいいのか見当がつかない」
「AIが実際に人間よりも賢くなるという考えは一部の人の間で信じられていたが、大部分の人は遠い未来の話だと考えていた。
教授自身も30年、もしくは50年以上先の話だと思っていたが、今はそのように考えていない」と話している。
自分も、正直、近い将来にAIが人間より賢くなるとは考えていなかった。
しかし、考えてみれば、ちょっと前までAIが将棋のプロ棋士に勝利した、囲碁のプロ棋士に勝利したとか、自動運転技術が一部地域で実用化されるというレベルの話だった。
AIがプロ棋士に勝利できるということは、今後、AIが進化を続ければ、人間がAIに勝てなくなるということになる。
自動運転についても、既に実用レベルにまで到達しているのだから、今後、順調に進化を続ければ、AIは、交通規則に忠実に運転し、人間よりも事故を起こさなくなっていくのは間違いないので、人間が運転する方が危ないと思える日はそう遠くない。
人間の進化よりAIの進化が早い
勿論、人間も進化はしていくだろうが、AIの進化に比べると人間の進化のスピードは比べ物にならない程、早い。
何より、人間は、ルールを守らない。
スマホをしながら運転、飲酒運転、将棋でも、今後AIを使って次の手を考えてもらうなんて不正を働く可能性だってある。
そう考えると、人間よりAIに任せた方が安全・安心な未来が待っているのではないだろうか?
本当に危険なのはAIではない
しかし、ヒントン教授は、そんなレベルの危険性を語りたいわけでは、ないのだろう。
人間を超えるようなAIを作るためには元となる膨大な情報が必要になる。
そして、膨大な情報を持っているのは、ごく一部の世界規模の大企業だけになる。
企業である限り自社の利益になるようにAIは作られていくので、偏った考えを持っていく可能性が高い。
そして技術の進化は軍事兵器の開発とも切り離すことはできない。
軍事兵器として利用された場合、完全に自律したAI兵器が生まれるかもしれない。
AIが、単調でつまらない仕事を人間から奪ってしまう、もしかすると、それ以上の仕事さえ奪ってしまうかもしれない。
AIが人間を超えるのが危険なのではなく、人間がAIを危険な使い方をしてしまい、危険な状態になってしまうのが危険なのだと思う。
結局、一番、危険なのはAIではなく、人類だと言える。