ChatGPTは今までの特定の作業しかできないAIとはちがう、史上初の汎用人工知能(Artificial General Intelligence: AGI)かもしれないといわれているそうです（そういう論文があるそうです）。あるいはこうした、人間同様に、あらゆる知能タスクを理解・処理することができるAIである、汎用人工知能が数年程度で完成するかもしれないと考えられているそうです。今までのAI、たとえば囲碁をうつAlphaGOや、タンパク質の立体構造を予測するAlphaFold2、畳み込みネットワークを利用して画像認識ができるAIなどとは違う、新しいAIが誕生したのは間違いないようです。ChatGPTの使っているGPT-4はついに画像認識もできるようになったので、試験問題用紙をスマホで撮ってGPT-4にアップロードして解答を要求すると、問題を解いてくれるようになっています。皆さんもご存知のように、こうした人工知能の危険性についての議論もはじまっています。
今日はこれに関する昔のSFを一冊紹介します。ジェイムズ・ホーガンの「未来の二つの顔」というSFです。
http://www.tsogen.co.jp/np/isbn/9784488663056
これは1979年の作品で、世界がコンピュータネットワークで覆われ、人はChatGPTから進化したようなAIを使いながら生活している未来を描いています。物語は、月面基地での大事故からはじまります。AIに月面の障害物になっている山の稜線の除去を最優先で実行するように命令したところ、AIが月面に設置されていた掘削した鉱石を軌道上に打ち出すための道具であるマスドライバーを、掘削に使えば21分で作業が終了するという新たな手法を思いつき、人が近くにいるにもかかわらずマスドライバーで鉱石を打ち込んだため付近にいた宇宙飛行士の命を危険にさらすことになったのでした。人類はこうしたAIが人間の常識を無視することによる事故を防ぐため、次世代のAIを開発します。そのAIは自己学習と自己改変の能力をもつものであるため、自己保存能を獲得したAIが最終的に邪魔な人類を除去する可能性が危惧されました。そこで人類は、人類社会から物理的にも電子的にも切り離された、竣工したばかりのトーラス型スペースコロニーの管理をこの新しいAI（スパルタクス）にまかせ、軍隊でこの宇宙ステーションのAIを攻撃して、AIの振る舞いをモニターすることで、このAIのもつ潜在的な危険性を探るという壮大な実験を始めます。軍隊と、スパルタクスとよばれるAIとの戦争が始まるのですが、スパルタクスはドローンを多数駆使して軍隊と戦闘となっていくという話です。44年前の作品ですが、この時代の作品にすでにドローンがでてくるのですね。ひさびさに読み返して驚きました。インターネットも携帯もタブレットもないこの時代にこれほど先見の明のある作品がかかれていたのですね。この作品には人工知能の先駆者の一人、ミンスキー教授への作者の謝辞がのっています。また日本語版(1983年初版）には、坂村健先生が解説を書かれていて、この本の面白さを語っておられます。先生の解説から、今から40年前のコンピュータとAI研究の様子がうかがわれます。
ChatGPTが動く様子を体験できる私達は、AIが学習して、自己改善するAIを今手にしているわけです。ChatGPTや他のLLMが、外部のドローンを制御できるようになるのも時間の問題でしょう。またLLMが人間に指示をだして人間を使ってAIの指示する作業をやらせるという可能性も高まってきています。このSFを読み返してみると、今後のAIの進歩と危険性、そしてその回避策についての多くのヒントが得られると思いました。皆さんも読まれるとよい本だと思います。