AI終末論者

　いやこれは違うんじゃない？

　そう思ったのはTurchinがリツイートしていたNiall FergusonのThe Aliens Have Landed, and We Created Themという記事。そこではユドコウスキーなる人物の記したPausing AI Developments Isn't Enough. We Need to Shut it All Downを冒頭に紹介しているのだが、それは「AIによって全人類どころか地球上の全ての生物が死ぬ」と書いているような、一見して何だこりゃと思いたくなる内容の記事だ。どうやらこのユドコウスキー、人知を超えた賢さを持つAIができると人類は滅ぼされるから、そうなる前にさっさとAIの電源を落としてしまえ、と考えているらしい。

　いったいどんだけSF映画を見ればこんなことを言い出すのかと思いたくなるトンデモ言説であり、こちらの記事でユドコウスキーが「AI終末論者と言われている」と紹介されているのもむべなるかなと思えるような文章なのだが、Fergusonは記事の中で彼について「ただのカサンドラ［予言者］ではない」と評価。彼の言い分をかなり真面目に捉えているようなことを書き連ねている。

　なぜこんなSF的な言い分を取り上げてオピニオン記事を書いているのか。Fergusonは過去にも「潜在的に致命的な科学研究分野」が２つあったからだと指摘している。うち１つは核兵器。確かに破壊的な影響を及ぼし得る技術であり、ロシアがあれだけ失敗を繰り返しながらもいまだにウクライナ以外の国が彼らを相手に（かつてのユーラシア中核なら当たり前だった）武力行使に踏み切らないのも、まさに核の抑止力が効いているからなのは間違いない。

　だが核兵器は人類を滅ぼしていない。ましてや地上の生物すべてなど滅ぼしていない。それどころか最初に核兵器が使われた1945年から100年も経たないうちに全人類の数は当時の３倍以上に膨れ上がっている。いくどか綱渡りはあったが人類は核兵器とここまでは共存しているし、その無限定な使用に走るほど愚かでないことを示している。むしろこの事例を参考にするのなら、AIが破滅的な技術になっても人間はそれを上手くコントロールすることができるという結論を導く方が自然じゃなかろうか。

　２つ目の分野はもっと拙い。そこで取り上げられているのは生物兵器なのだが、中国でのコロナウイルスの研究がCovid-19の流行をもたらしたという陰謀論を「ますますもっともらしくなっている」と紹介している。専門家が武漢の卸売市場を感染源だと判断し、AIですら「証拠はない」と指摘するような研究所流出説を、よりによって歴史学を学んだ人間が安易に肯定していいのか？　正直この文章を読んだことで、私のFergusonに対する評価は強烈に低下した。もしかしたらハラリ並みに事実認定能力に問題があるのではないか、とすら思ってしまったくらいだ。

　たとえ百歩譲ってCovid-19が研究所由来だったとしても、それがもたらした死者数は３年強で700万人弱と、２年で2500万～5000万人が死んだスペイン・インフルエンザに比べて桁一つ少ない。世界人口は当時の４倍以上に達しており、当時よりもずっと風邪に弱い高齢者が増えているにもかかわらずだ。もちろん超過死亡が出たこと自体は悲劇ではあるが、Covid-19のレベルで終末だと騒いだりしたら、20世紀初頭の人間に呆れられてしまうだろう。

　こういった怪しげな論拠を挙げたうえで、さらにFergusonは他ならぬスカイネットや、他のSFを取り上げてAIの危険性を述べている。いやだから何でフィクションを取り上げるんだ。「私の言い分はフィクションを論拠にした胡散臭いものですよ」と衆目に向けて宣伝しているようにしか見えない。もしかしたらこの文章全体がAI終末論者を揶揄するための高度なギャグではないかと勘繰りたくなるくらい。世間一般から評価され、Bloombergにオピニオンを寄せることができる程度の知識人と思われている人物がこんなことを言うのは拙い。前にも書いたが、こうした陰謀論の跋扈を許すことは政治的なリスクを高める事態につながりかねないからだ。

　これに比べると、以前ちょっと触れたAcemogluの文章はまだマシだ。有料なので最初の方しか読めないが、少なくともそこで書かれているのはAIに仕事を奪われる労働者（例えば消費者向けの対応サービス）や、AIが増えることでルーチン的でない問題を抱えているのに対応してもらえない消費者、さらには投資家に至るまで大きなマイナスを被る可能性があるという内容だ。AIが人類を滅ぼす云々といった言い回しは、少なくとも無料部分には出てこない。

　ついでに言うと、Turchinがこういう論説にリツイートしているのも危うく見える。私の偏見だが、ツイッターでつぶやく頻度の高い学者ほど残念なことしか言わなくなるので、面白そうな研究をしている人物にはできるだけツイッターから遠ざかってほしいというのが本音。言いたいことがあったらきちんと論旨をまとめたうえでblogか何かで表明するようにしてもらいたい。

　それにしても生成型AIが一気に広まってきたところで「乗るしかないこのビッグウェーブに」とばかりに中身のないAIネタを垂れ流す人が増えることは予想していたが、逆に「話は聞かせてもらった、人類は滅亡する」と騒ぎ立てるAI終末論者までがここまで人気になるとは思っていなかった。いや日本ではそんなに人気になってはいないと思うけど、英語圏を見ると結構AI Doomerが見つかるんだよな。私のような年齢の人間だとノストラダムスじゃあるまいしとしか思えないのだが、世の中には終末論が楽しくて仕方ないという人がそこそこいるのだろう。

　というわけでAI狂騒曲に便乗して騒ぐのは結構リスクがありそうだと思わされる事例の一方で、ちょっと面白かったのがMilanovicが書いていた昔ばなし。Living in own ideology...というエントリーの中で、彼は1975年にドブロブニクで観光ガイドをやっていた時の思い出話をしている。ドブロブニクでは祭りの開催に当たってオープニングに「LIBERTAS」、つまり「自由」と書かれた旗を掲げるのだそうで、当時のMilanovicはそれが「帝国主義者である米国からも、覇権主義者であるソ連からも自由なユーゴスラビア」を象徴するものに見えていたという。

　それからおよそ10年後、彼は同じ祭りを見ていた人物と話をする機会があったそうだ。その人物は、どうやら同じ旗を見てそこに共産主義の終末と民主主義の復活を見ていたそうだ。彼らが話をしたのが共産主義がそろそろ破綻を迎えようとしていた（例えばポーランドでは1980年代から労働組合運動が盛んになっていた）時期だったことが理由だったのか、それとも本当に1975年当時からそう思って見ていたのかは不明だが。

　そして今から数年前、内戦後のユーゴを訪ねたMilanovicは、ドブロブニクで働いていた当時の別の知り合いと二十数年ぶりに顔を合わせた。クロアチア人であった相手は、あの旗を見て常に「クロアチアの独立と自由」を考えていたし、そこにいた他の者たちとも同じ感情を共有していたと考えていたという。この３人はいずれも同じ時に同じ祭りを見たはずだが、その時に抱いていた感情はそれを吐露するタイミングによって随分と違ったものに化けてしまっていたことになる。

　そのうえでMilanovicが触れているのは、かつて奴隷貿易が当たり前のように存在していた時代と、BLMが大きなテーマとなった21世紀との比較であり、また20世紀の最後の20年間に世銀やIMFを支配していた「ネオリベラル」な思想についてだ。当時の世銀やIMFのエコノミストたちが自分たちの考えをネオリベラルだと考えていたかどうかは不明だが、彼らが当時の自由主義的経済学を「あらゆる真剣なエコノミストが抱いている共通の中核的英知」であると考えていたのは確かなようだ。でもそうした考えは21世紀に入って揺らいでいる。

　それでもなお人々は未だに自分のイデオロギー世界に生き、しかもそれが永遠に続くと思っている。自分が1975年にそう思っていたように――とMilanovicはこのエントリーにオチをつけている。これはなかなか厳しい指摘だ。時代が変わればこうした「常識」が変化するのは枚挙に暇がないほど当たり前の事象であるが、同時に自分たちが今生きている「常識」を疑うのがものすごく難しいこともまた事実。時代遅れと思っていた考え（最近であればケインズ的な経済）がまた復活することもあるわけで、そう考えるとあまりに足元の「常識」に耽溺しすぎるのも拙い。掲げられた旗はその時は当然の価値を示しているように見えるかもしれないが、時間が経つと単に勘違いだったことが分かることもあるわけで、これまた慎重になった方がいい点なんだろう。

　あとこちらのツイートも面白かった。「お目覚め」系の見出しが米国だけでなく様々な国のメディアで2010年代以降に増えていること、ただし中国、ロシア、イランといった国々では批判的な意味合いで使われることをグラフで示している。不和の時代には分かりやすい紛争の材料が色々と取り上げられるものだが、今回はそのテーマとして「お目覚め」系的な概念が国境を越えて広まっている様子がわかる。