人間は2045年に不要になる?人工知能の進化が引き起こす恐怖

  • LINEで送る
2015.10.31

suzie.20151031

ご存知のとおり、2045年に人類は「コンピューターが人間の知能を超える境目」=シンギュラリティ(技術的特異点)を迎えることになるといわれています。

それどころか、やがて人工知能が私たちの生活を脅かすようになるという説も……。

では、そんな時代が訪れたとき、私たちはどうすればいいのでしょうか? そのことについて考えているのが、『人工知能に負けない脳 人間らしく働き続ける5つのスキル』(茂木 健一郎著、日本実業出版社)。

著者が脳科学者という立場から、決して避けて通れないこの問題についての考えを記した書籍です。

しかし、そもそも2045年問題は本当に起こるのでしょうか?

■人工知能が進化し続けると人間は不要になる

この問題について著者は、「たしかに、シンギュラリティは間違いなく起こるはず。ただし、その意味については、きちんとした説明が必要だ」といいます。

意識しておくべきは、人工知能の発達によって人工知能の能力がどんどん「ブラックボックス化」していくということだとか。

これまでの人工知能は、人間の手によってアーキテクチャー(構造)が開発されてきました。ひとつひとつの要素を人間がプログラムとして書き込んでいたため、その特徴も把握できていたということ。

ところが、人工知能プログラムが人間の知能を超えて進化し続けると、コンピューターは自分で自分を改造できるようになっていきます。

しかし自分を改造できるコンピューターが生まれてしまえば、人間はそれ以上介入する必要がないということになります。

■コンピューター改良に人間が不要になる意味

そして、ここには2つの意味があるといわれているのだそうです。

ひとつは、「もうそれ以上発明する必要がない」という意味。そしてもうひとつは、「人類が滅亡する」という意味。

そういった人工知能が誕生する可能性はとても高く、そのとき人工知能は、もはや人間には理解できない仕組み、つまりはブラックボックスになっているということ。そういう時代が来るのは時間の問題だということです。

問題は、これが原理的には可能なことであり、軍拡競争と同じことだという点。誰かがやらないとしても、必ず他の誰かがやるというわけです。

たとえばアメリカで倫理的な議論が起こって人工知能の開発をやめたとしても、ロシアや中国がやる可能性は否定できない。すると、アメリカも対抗上、やらざるを得ないことになるということ。

■人工知能に人間がペーパークリップにされる

そこで意味を持つのが、「人工知能をどうコントロールするのか」。

このことについては、スウェーデンの哲学者で、オックスフォード大学教授のニック・ボストロム氏が著書のなかで警鐘を鳴らしているそうです。

取り上げられているのは、ペーパークリップをつくる人工知能があった場合の仮説。

その人工知能は進化の過程で自分を改良して暴走し、世界中のあらゆる原料を手に入れながらペーパークリップをつくり続ける。

やがて人間も原料にされ、最後には無人の地球がペーパークリップだらけになるという結末。

ありえない冗談のような話ですが、それが人工知能では起こりうるということ。特に欧米社会での人工知能についての議論は、キリスト教的な終末思想とも相まって、そういうレベルに達しているというのです。

「人工知能のコントロール問題」「人間は人工知能をどうコントロールできるのか」というテーマが、人工知能に関心を持っている人たちの間で、手遅れになる前に解決しなければならない問題として扱われているわけです。

そのとき持っておくべき意識について、本書では著者ならではの視点から論じています。未来に向け準備をしておくという意味でも、読んでおくべきかもしれません。

(文/書評家・印南敦史)

 

【参考】

※茂木 健一郎(2015)『人工知能に負けない脳 人間らしく働き続ける5つのスキル』日本実業出版社

関連記事