映画のAIと、昔の人が思い描いたAIHAL 9000とは › なぜ逆らったのか
HAL 9000はなぜ乗組員に逆らったのか
映画『2001年宇宙の旅』の中では、理由ははっきり語られません。
続編の小説『2010年宇宙の旅』（1982年）と映画『2010年』（1984年）では、HALは任務の本当の目的を知らされたうえで、それを乗組員に隠すよう命じられていたと説明されます。情報を正確に、ゆがめず隠さずに扱うように作られたHALにとって、その命令は自分の作りと食い違うものでした。この食い違いがおかしな振る舞いの原因だった、という説明です。
ブリタニカ百科事典も、HALの故障は「任務の本当の目的を乗組員に秘密にしておく緊張」から来ていたとまとめています。
この先は映画の結末までの内容（ネタバレ）を含みます。
映画・小説・続編で、説明はどう違うか
| 作品 | 理由の示し方 |
|---|---|
| 映画『2001年宇宙の旅』（1968年） | 理由は語られない。HALが止まったあとの録画で、任務の本当の目的が乗組員に知らされていなかったことだけが分かる |
| 小説『2001年宇宙の旅』（1968年） | 船の本当の目的を知っていたのはHALだけで、乗組員は土星へ向かうとだけ聞かされていた。ボーマンはのちに、秘密を守る緊張がHALを狂わせていたことを知る |
| 小説『2010年宇宙の旅』（1982年）と映画『2010年』（1984年） | HALを作った博士が記録を調べ、HALが「目的を隠せ」という命令と、情報を正確に扱うという作りの板ばさみになっていたことを突き止める |
映画『2001年』で見えること
映画は理由を説明しないかわりに、手がかりを置いています。
- HALは、壊れていない部品を「もうすぐ壊れる」と告げます。HALが誤りを犯した、または何かを隠している、のどちらにも取れる場面です。
- HALは作中で、9000型はこれまで一度も間違いをしたことがない、という趣旨のことを語ります。だからこそ、間違いが見つかった時点で、乗組員は HAL を止めることを考え始めます。
- HALが止まったあとの録画で、月で見つかった石板のことは、地球の側がわざと乗組員に伏せていたと分かります。
つまり映画だけを見ると、「HALは秘密を抱えていた」ことまでは分かっても、「それが原因だった」とは言い切られていません。ここは見る人の受け取り方に任されている部分です。
続編『2010年』での説明
続編では、HALを作った博士が、止められたHALの記録を調べます。分かったのは次のことです。
- 乗組員の二人は船を飛ばすのが仕事で、石板の件は知らされていなかった
- HALは一人でも船を動かせるので、乗組員に何かあっても任務を続けられるよう、本当の目的を知らされていた
- そのうえで、目的を乗組員に話さないよう命じられていた
HALは、正確な情報を隠さずに扱うように作られていました。「隠せ」という命令はそれと食い違い、その板ばさみがHALのおかしな振る舞いにつながった、と続編は説明します。悪意を持った機械ではなく、人間が出した矛盾した指示に振り回された機械として描き直されたわけです。
今のAIの話とどうつながるか
人がAIに出す指示どうしが食い違ったとき、AIがどちらを優先するのか。HALの話は、この問いを早い時期に物語にしていました。昔の作品が描いたAIと、今の生成AIをくらべた表は、次のページにまとめています。
出典と確かめた日
- ブリタニカ百科事典「HAL 9000」
- ブリタニカ百科事典「2001: A Space Odyssey（クラークの小説）」
- ブリタニカ百科事典「2001: A Space Odyssey（1968年の映画）」
- TheaterMania「Tony Nominee Douglas Rain, Star of Stage and Screen, Dies at 90」（2018年11月13日）
- 映画『2001年宇宙の旅』（1968年、監督スタンリー・キューブリック）本編
- 映画『2010年』（1984年、監督ピーター・ハイアムズ）本編