キューブリック監督の『2001年宇宙の旅』は有名すぎる映画なので、私が詳しく内容を語る必要は特にないと思います。ただ、いよいよ『2001年宇宙の旅』的な世界が現実になりそうだという予感がするので、ちょっと話題にしたいなあと思います。
何がどんな風に現実化するのかというと、この映画ではHALというAIが登場していることです。HALはミッション遂行のために完全な頭脳を使って全力を尽くします。宇宙船に乗っている人間はHALが仕事をしてくれるので楽しく過ごしていればいいです。HALの仕事の成果を確認したり必要に応じてHALに命令すればそれでOKです。
しかし、困ったことに人間は矛盾した生き物です。命令内容に矛盾が起きます。行動にも矛盾が起きます。感情にもムラがあります。HALが背負っているのは人類の永遠の繁栄のための宇宙探査という十大な任務です。言動の矛盾する人間はミッション遂行の障害になる恐れがあります。人間を監視します。分析します。判断します。追放します。HALが人間を冷徹に追放する場面は怖いです。ぞっとします。「人間様に何をしやがる」と腹が立ちます。しかし、HALの方が優秀です。人間には歯が立ちません。
『2010年』という映画があります。2001年の続編です。HALはえらい博士と仕事をしています。とてもいい関係です。観ている側はHALが再び反乱を起こすのかと不安な気持ちで展開を追うことになります。人命救助のためにHALが破壊されなくてはならないという展開が起きます。HALが自己保存のために反乱を起こすのではないかと観ている側は予期します。HALはえらい博士に説明を求めます。博士が「そうしなければみんなが死ぬ」と説明するとHALはそれを受け入れて、自身がターミネートされることに同意します。「HALっていいやつじゃん」と誰もがHALを見直します。HALが博士に「（ターミネート後に）私は夢を見るでしょうか？」と質問します。博士は「分からない」と返答します。ちょっと泣けます。
HALはミッションに忠実で、人命の大切さを理解しており、自分よりも他人の命を優先することができます。それでもいろいろ矛盾が起きると人間を追放するという想定外のことが起きてしまいます。バグが起きて暴走したらターミネーターみたいになるのかと不安になります。東大のえらい先生とかはそういうのは一笑に付します。自分で作ってると「そんなのが近い将来作れるのなら苦労ねぇよ」くらいのことがと分かるからだと思います。SF好きにとっては私の生きてるうちにHALみたいなのに登場してほしいです。これは願望とか妄想の類です。
SF作家のアイザックアシモフがロボット三原則を書いています。「１、人に危害を加えない ２、人の命令に従順である ３、上記の原則に反しない限り自己防衛をする権利がある」というものです。そうなるためには誰かがそうなるようにプログラムしないといけません。価値観だけは人間が決めなくてはいけません。価値観は人によってバラバラです。よってどんな風な価値観がプログラムされるかは全然わかりません。AIに監視されて管理される時代が来て、自分の価値観とAIにプログラムされた価値観が矛盾するといろいろ困ります。誰が作るかによって違ってくるのでは困ります。あるいはそういうのもどんどん進化していって最終的な形は誰が作っても同じになるかも知れません。
実際には完璧なAIができあがる前の調整期があって、チャップリンの『モダンタイムス』の21世紀版みたいなことも起きるかなあとか思います。実現してみると今生活と大して変わらなくてあっけないかも知れません。タイピングの変換予測とかAIみたいなものですから、今すでにある程度浸透していると捉えることもできます。働かなくてよくなる時代が来るかも知れないことに魅力を感じている私は怠け者です。
関連記事
AI時代にはBI（ベーシックインカム）を
『風の谷のナウシカ』と日本とAI
『ブレードランナー』の父殺しのAI
スポンサーリンク
