生成AIとHAL

AIについて語る時、必ず頭の片隅をよぎるのが映画『2001年宇宙の旅」に登場する宇宙船のAI、「HAL」。前半の準主役と言ってもいい。『2001年宇宙の旅』（原題：2001: A Space Odyssey）は、スタンリー・キューブリックが製作・監督した、1968年の叙事詩的SF映画で、脚本はキューブリックとアーサー・C・クラーク。当時としては画期的なSF映画であった。


HALは宇宙船のすべてを制御し、かつChatGPTのように乗組員と人間のように思考し会話をするAI.。ここからのあらすじは、順調に進んでいた飛行の途上、HALはボーマン船長に、この探査計画に疑問を抱いている事を打ち明ける。その直後、HALは船のアンテナ部品＝AE35ユニットの故障を告げるが、ボーマンがユニットを回収して点検すると、問題は見つからなかった。HALの異常を疑ったボーマンとプールは、その思考部を停止させることを決める。しかし、ふたりの密談を読唇して察知したHALが、それを阻止しようと乗組員の殺害を決行する。プールは船外活動中にポッドに衝突されて宇宙服を壊され、人工冬眠中の3人は生命維持装置を切られてしまう。唯一生き残った乗員となったボーマン船長は、HALの思考部を停止させるべく、ユニットを取り外していく。HALは助命嘆願を繰り返すが、次第に知能を失い・・・・。


先日、認知行動療法研修開発センターの大野裕という医師の方の「こころの健康学」というコラムに「どう使う、対話型AI」という記事が掲載されていた。主題はChatGPTの使用経験談。最後の一節だけ引用させていただく。

私も少し前「大野裕」についてChatGPTに尋ねた。医師という職業は当たっていたが、他の説明は全く違っている。滑らかな日本語で説明されると、いかにも正しいように錯覚してしまう。AIを活用する新しい時代になっても、利用する側の知識や知恵は不可欠だ。

ChatGPTは無料でダウンロードできるぐらいだからまだまだプロトタイプなのであろうが、生成AIが高度化していくにつれ人間の脳の機能をはるかに超越したレベルに進化するだろう。

先日記した中野信子氏の「脳の闇」の中にこんな一節があった。人間の脳の言語野と呼ばれる領域の話。
例えば、側頭葉後方のウェルニッケ野。ここは、言語の理解を担当している。この領野が損傷しても、発する言葉の流暢性は失われない。だが、その言葉はまるで意味を成さないのだ。

脳も稀にではあるが損傷することがある。ブログ記事にはしていないが手許の資料で、ディープマインドのデミス・ハサビス氏は「与えられた目的と枠組みの範囲内とはいえ自ら学習し、行動するAIには「暴走」の懸念がつきまとう。」と2017年に述べている。今やAIは脳のようなもの、脳が損傷するようにAIもHALのように暴走することがあるものだと思ったほうが良い。

昨日の日経新聞の一面トップの記事であるが、まだ低レベルの議論とはいえ、このような議論がされ始めたというのは好ましい。
欧州委員会のベステアー上級副委員長は24日、日本経済新聞の単独インタビューに応じた。「Chat（チャット）GPT」など生成AI（人工知能）について欧州連合（EU）全体で規制する新法を「できる限り早く施行する」と方針を示した。生成AIの適正利用に向けた統一ルールを設け、利用者のリスクを低減する。日本や米国もルール作りを模索する。