「Tron Ares」
「トロン」の最新作「トロン・アレス」が公開された。前作までの「トロン」が、現実世界の人間がデジタル世界へ足を踏み入れてバトルをする、という設定だったが、今回は逆で、デジタル世界が現実世界に襲来して、人間と闘うという構図になっている。そのデジタル世界とは「AI」であり、現在の世界の問題を反映させた主題になっている。
「AI」に対する議論が盛んだが、「AI」は人間のプログラムに忠実に従っているだけで、人間から学習したこと以上のことをできるわけではないし、極端に忠実ゆえに人間にとって良くない指示に対しても、それを自律的に判断して指示に逆らうことをしない。だから政治家や企業が自分の目的に合うようにプログラムした「AI」を使うと恐ろしいことになる、という警告がたくさんされきた。
この映画は、まさにその警告になっている。ある IT 企業の社長が業界の覇権を握るために、強力な「AI」の開発に成功する。それは人間を害することも厭わない「AI 兵士」だ。一方でその「AI兵士」を無力化するためのプログラムを開発している良心的なエンジニアがいる。その両者の壮絶なバトルが映画のストーリーになっている。
・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・
なおこの映画の理解の参考に、以前の投稿('25 /5/ 29)を以下に再掲する。
進化した AI の危険性について警鐘を鳴らす人のなかで、スウェーデンの哲学者ニック・ボストロムが行った思考実験(頭の体操)は有名だ。「ペーパークリップ最大化装置」という架空の物語を作って AI の危険性を説いている。その物語はだいたいこんな感じだ。
Illustration: Jozsef Hunor Vilhelem
ペーパークリップの会社の工場長が AI に、クリップを増産し最大化するように
命令する。すると AI は、たくさんの工場を建設し、石油や電気のエネルギーを
調達し、世界中の鉄鉱石を買い占め、効率的な生産工程を新しく開発する。やが
て人間の体にはいい成分があることを知り、人間を殺してクリップの材料に使う。
さらにAI である自分の機能をOFF にする可能性のある工場長を殺す。そして競合
他社の人間を皆殺しにする。そしてついに地球全体を征服してクリップ製造装置
で埋め尽くす・・・
この物語で重要な点は、AI が邪悪だから人間を殺したわけではなく、人間に命じられた「クリップ最大化」の目標を達成するために、ひたすら忠実に仕事をしただけということだ。しかし強力なAI は人間が想定しなかったことまでやってしまう。だから、AI に与える目標を、人間の最終目標にピッタリ一致させなければならないとボストロムは強調する。つまりこの場合、「クリップの最大化」は、あくまでも「人間のため」ということをAI のアルゴリズムの中に組み込まなければならないということだ。