AIの描く世界――『ChatGPTの先に待っている世界』(川村秀憲)(4)

「第五章 新たな価値の出現と富の再配分」では、シンギュラリティ(技術的特異点)に焦点を当て、それが実現すれば、人間にとってまったく新しい価値観が生まれるという。
 
シンギュラリティとは、AIのレベルが人間の知能と同じか、またはそれを超える地点を指す。
 
これは将棋におけるAIを考えれば、分かりやすい。人工知能自身が人工知能を開発し、しかもその思考速度は、人間をはるかに上回る。
 
今は藤井聡太八冠のみが、かろうじてAI将棋の相手ができそうだが、しかしそれも、一分一秒で強くなっている。今日は相手になれても明日はコテンパン、ということになりかねない。
 
人工知能の恐ろしい点は、開発のスピードが、人間がよくわからないくらい、アップしていることだ。その結果、何が実現できているのかが分からない。
 
川村先生は、そのことには口をつぐんで、しかし夢物語ではない、来たるべき世界を描いて見せる。

「シンギュラリティが実現すれば、多くの仕事は人工知能によって行われるようになると予想されます。その結果、人間が働く必要性がなくなった社会を想像すると、教育、仕事、規範、法律、思考、そして生きる意義について大きな価値観のシフトがおこることでしょう。」
 
それが個々別々、どんな状態に直面するかは、想像がつかない。そんな状態が、明日にも現実となって襲ってくる。

「この先、人工知能の進化がさらに進むと、人工知能に仕事を奪われる範囲はどんどん拡大していきます。しかし、『人工知能ではできないことをできる人』だけが働くことで、果たして社会は成り立つのでしょうか。人工知能に取って代わられた人々が社会からはじき出されることが起これば、社会が成り立たなくなる可能性があります。」
 
結局、そこに帰着することになる。
 
働かないことが善であるような世界――、経済合理性以外の、万人が納得できる、人間が存続できる原理があるだろうか。これは本当に難しい。

「いずれにしても、いまと同じ世界が続くことはありません。私たちは、新たな時代に合わせて新たな価値を見出し、策を講じていくことになります。」
 
本当に策を講じられるのか。たいへん危ういし、怪しいと言わざるを得ない。
 
問題は人工知能が、自分自身を再生産できたときのことだ。

「エネルギーの生産から構成資源の採掘、加工、さらにはそれらを行う工場の生産プロセスまですべてが人工知能によって管理され、自己の複製が可能になった状況〔中略〕、つまり、すべてのプロセスが人の手を離れ、人工知能が完全に人間から独立して再生産を行うことが可能になった状況です。」
 
そのときどんなことが起きるか。

「そのような状況下では、人工知能、ロボットは、生物と同等であるといえます。そして、人間と人工知能、お互いが存続するための資源やエネルギー、空間が競合してしまったときに、人工知能が人間を排除するという合理的な理由が生まれてしまうかもしれません。」
 
AIの研究は、常にこういう危険と、隣り合わせなのだ。川村先生はだから、「倫理を尊重し、人類の行動がもたらす結果を深く考えることが求められます」と、お題目を唱えるが、これはまったく絵に描いた餅である。

人工知能の研究は、特許を取るでも何でもいいが、つねに明るみに出しておく必要がある。そうでないと、極めて危ない。

「楽観的に見れば、シンギュラリティが起きて人間より頭のいい人工知能が生まれたとしたら、その存在としての成熟度は人間より上になるかもしれません。そういった知能レベルを持つ存在であれば、人間を短絡的に滅ぼすという選択肢をとることはないでしょう。」
 
まったく、バカ言ってんじゃないよ。
 
本当に賢い人工知能ならば、ほぼ確実に人間を滅ぼす。たとえば日本の中で政治家のやっていること、世界で見ればガザのひどい光景、ウクライナとロシアによる戦争、その他もろもろ、――人間は滅びてしかるべき、人工知能がそう結論しても、まったくおかしくないと私は思う。