Amazonオールジャンル1位・2位独占のほか、紀伊國屋書店全店、丸善ジュンク堂書店全店、TSUTAYA全店など、全国の書店でも人文書等ジャンル1位にランクイン。

ユヴァル・ノア・ハラリ著『NEXUS 情報の人類史』（2025年3月5日発売）は、早くも連日多くのメディアで取り上げられ話題となっています。

☞特設サイトはこちら

 

SNSでの偽情報や陰謀論、メディアなどの規制・弾圧による独裁化……。

昨年９月の英語版刊行後、米大統領選でのトランプ氏再選により、2025年の世界を予言するかのような本書の内容にますます注目が高まっています。そして、生成AIの進化もとどまることを知りません。本書は、AI革命の今後を考えるためのヒントも数多く提示しています。

そしてこのたび、その冒頭部分である「プロローグ」を特別無料公開します。

本書のエッセンスが凝縮されており、冒頭から面白い・引き込まれると評判の「プロローグ」が、『NEXUS 情報の人類史（上・人間のネットワーク／下・AI革命）』へのきっかけとなりましたら幸いです。

 

 

 

プロローグ

 

　私たちは自らの種（しゅ）を「ホモ・サピエンス」と名づけた——「賢いヒト」という意味だ。だが、どれだけその名に恥じぬ生き方をしてきたかは疑わしい。

　私たちサピエンスは過去10万年間に、たしかに途方もない力を身につけた。私たちの発明や発見や偉業の数々を列挙するだけで、何冊もの本のページが埋まるだろう。だが、力は知恵ではない。そして、10万年に及ぶ発明や発見や偉業の後、人類は自ら存亡の機を招いた。自身の力を誤用して、生態系崩壊の危機に瀕（ひん）している。そのうえ、私たちの制御をかいくぐって人類を奴隷化したり絶滅させたりする可能性を持つ、人工知能（AI）などの新しいテクノロジーをせっせと創り出している。ところがサピエンスは、存亡にかかわるこれらの難題に、団結して取り組もうとはしていない。むしろ、国際的な緊張が高まり、グローバルな協力はますます困難になり、各国は最終兵器を備蓄するばかりで、新たな世界大戦はもはやありえないものには思えない。

　もし私たちサピエンスが真に賢いのなら、なぜこれほど自滅的なことをするのか？

　より深い次元に話を移すと、私たちはDNA分子から彼方（かなた）の銀河まで、あらゆるものについて厖大（ぼうだい）な情報を積み上げてきたにもかかわらず、その情報のいっさいをもってしても、「私たちは何者か？」「何を希求するべきか？」「良い人生とはいかなるものか？」「その人生をどう生きるべきか？」といった、人生にまつわる肝心な問いの答えは得られていないようだ。驚嘆するほどの量の情報を意のままに使えるというのに、遠い祖先と変わらぬほど空想や妄想の虜（とりこ）になりやすい。ナチズムとスターリン主義は、近代以降の社会さえときおり呑（の）み込む集団的狂気の、最近のほんの二例にすぎない。今日（こんにち）の人間のほうが石器時代の人間よりもはるかに多くの情報と力を持っていることに異議を唱える人はいないが、私たちのほうが自分自身とこの世界における自らの役割をよく理解しているかどうかは、およそ定かではない。

　私たちはなぜ、いっそう多くの情報と力を獲得するのがこれほど得意でありながら、知恵を身につけるのが格段に下手なのか？　私たちには生まれつき致命的な欠陥があり、そのせいで、自分の手に余る力を追い求めたくなるのだと考えられることが昔から多かった。ギリシア神話では、パエトンが自分は太陽神ヘリオスの息子であることを知り、神聖な出自を証明したくて、太陽の戦車を操縦させてくれるようにヘリオスに乞うた。ヘリオスはパエトンに、太陽の戦車を引く天馬たちを操れる人間はいないと警告した。それでもパエトンが引き下がらなかったので、ヘリオスが折れた。ところが果たして、誇らしげに天空に駆け昇ったパエトンは戦車を御することができなくなった。戦車は道を逸（そ）れ、草木を炎上させ、数知れぬ生き物を殺し、大地そのものまで焼き尽くしかねぬほどだった。見かねたゼウスがパエトンに雷（いかずち）を見舞った。思い上がったパエトンは、自らも炎に包まれ、流れ星のように地に落ちた。こうして神々は再び天空の支配権を取り戻し、世界を救った。

　2000年後、産業革命の幕が開き、無数の仕事で機械が人間に取って代わり始めていた頃、ヨハン・ヴォルフガング・フォン・ゲーテは、「魔法使いの弟子」という題の、同様の教訓的な作品を発表している。このゲーテの詩（後に、ミッキーマウスを主役とするウォルト・ディズニーのアニメーションの形で世に広まった）では、年老いた魔法使いが若い弟子に工房を任せて出掛ける。留守の間にする雑用も言いつけておく。川から水を運んでくることも、その一つだった。弟子は楽をすることにし、魔法使いの呪文を使って、自分の代わりに箒（ほうき）に水を運ばせる。ところが、弟子は箒の止め方を知らなかったから、箒はひたすら水を運んでくるので、このままでは工房は水浸しになる。慌てた弟子は、魔法のかかった箒を斧（おの）で真っ二つにする。すると、そのそれぞれが1本の箒となる。そして、今や魔法のかかった2本の箒が工房を水であふれ返らせる。そこへ老魔法使いが戻ってきたので、弟子は泣きついて助けを求める。「霊を呼び出したところまではよかったのですが、去らせることができません」。魔法使いはただちに呪文を解き、洪水を止める。弟子への——そして、人類への——教訓は明白であり、それは、自分が制御できない力はけっして呼び出すな、ということだ。

　この弟子やパエトンの教訓的な寓話（ぐうわ）は、21世紀の私たちに何を語っているのだろう？　私たち人間は、彼らの警告に耳を傾けることを明らかに拒んだ。そして、すでに地球の気候のバランスを崩し、魔法をかけられた箒ならぬドローンやチャットボット、その他のアルゴリズムの霊を何十億も呼び出してしまった。それらは私たちの手に負えなくなって、意図せざる結果の大洪水をもたらしかねない。

　だとすれば、私たちはどうするべきなのか？　この二つの寓話は、神か魔法使いに救ってもらうのを待つ以外、何の答えも示してくれない。当然ながら、これははなはだ危険なメッセージだ。責任を放棄し、代わりに神や魔法使いを信じてそれにすがることを人々に促すからだ。そのうえ、神や魔法使い自身も戦車や箒やアルゴリズムとまったく同じで、人間の創造物であることに気づいていないからなお悪い。意図せざる結果を伴う強力なものを生み出す傾向の始まりは、蒸気機関の発明でもAIの発明でもなく、宗教の発明だった。預言者や神学者たちは、愛や喜びをもたらすはずの強力な霊を呼び出した挙句（あげく）、ときおり世界を流血であふれ返らせてきた。

　パエトンの神話とゲーテの詩が有益な助言を提供できないのは、人間がどのようにして力を獲得するかを両者が取り違えているからだ。どちらの寓話でも単一の人間が並外れた力を獲得するものの、その後、傲慢と強欲のせいで道を誤る。私たちはみな心理に欠陥を抱えているために力を濫用するというのが、両者の結論だ。これはまた粗雑な分析であり、人間の力がけっして個人の取り組みの成果ではないことを見落としている。力はつねに、大勢の人間の協力に由来するのだ。

　したがって、私たちが力を濫用するのは、各自の心理のせいではない。なにしろ人間は、傲慢さや強欲や残虐さだけでなく、愛や思いやり、謙虚さ、喜びもまた持ちうるのだから。最悪の部類の人間は、たしかに強欲と残虐性に支配され、力の濫用へと導かれる。だが、人間社会はなぜ、よりによって最悪の者たちに権力を託したりするのか？　たとえば、1933年のドイツ人のほとんどは、精神病質者（サイコパス）ではなかった。それなのに、なぜ彼らはヒトラーに票を投じたのか？

　自分の手に余る力を呼び出す傾向は、個人の心理ではなく、私たちの種に特有の、大勢で協力する方法に由来する。人類は大規模な協力のネットワークを構築することで途方もない力を獲得するものの、そうしたネットワークは、その構築の仕方のせいで力を無分別に使いやすくなってしまっているというのが、本書の核心を成す主張だ。というわけで、私たちの問題はネットワークの問題なのだ。

　さらに具体的に言えば、それは情報の問題ということになる。情報はネットワークの一体性を保つ、いわば接着剤だ。だが、サピエンスは、神や魔法をかけた箒、AI、その他じつに多くのものについての虚構や空想や集団妄想を生み出して広めることによって、何万年にもわたって大規模なネットワークを構築し、維持してきた。一人ひとりの人間はたいてい自分や世界についての真実を知ることに関心があるのに対して、大規模なネットワークは虚構や空想に頼ってメンバーを束ね、秩序を生み出す。たとえばナチズムやスターリン主義も、そのようにして誕生した。両者は並外れて強力なネットワークであり、並外れて妄想的な思想によってまとまっていた。ジョージ・オーウェルの有名な言葉にあるとおり、無知は力なり、なのだ（『一九八四年』）。

　ナチス政権とスターリン政権は残虐な空想と恥知らずの嘘（うそ）に基づいていたが、歴史的に見れば、それは例外ではないし、そのせいで崩壊することを運命づけられていたわけでもない。ナチズムとスターリン主義の二つは、人間がこれまでに作り出したネットワークのうちでも屈指の強さを誇った。1941年の終わりから翌42年の初めにかけて、枢軸国は第二次世界大戦での勝利に手が届く所まで行った。最終的にはスターリンがその戦争の勝者となり、1950年代から60年代にかけては、彼とその後継者たちは冷戦にも勝利する可能性が十分あった。90年代までには自由民主主義陣営が優位に立ったものの、今やそれも一時的な勝利だったように見える。21世紀には、どこかの新しい全体主義政権がヒトラーやスターリンの轍（てつ）を踏まずに成功し、全能のネットワークを作り出して、将来の世代に政権の嘘や虚構を暴こうという気さえ起こさせないようにすることも考えうる。だから、妄想的なネットワークは失敗する運命にあると決めてかかるべきではない。そうした全体主義政権の勝利を防ぎたければ、私たちは自ら懸命に取り組まなければならない。

 

情報の素朴な見方

　妄想的なネットワークの強さを正しく認識するのが難しいのは、妄想的なものであろうとなかろうと、大規模な情報ネットワークがどのように機能するかについて、さらに大きな誤解があるからだ。この誤解を一言で言うなら、「情報の素朴な見方」とでもなるだろう。パエトンの神話や「魔法使いの弟子」のような寓話が、個々の人間の心理について過度に悲観的な見方を示しているのに対して、情報の素朴な見方は、大規模な人間のネットワークについて過度に楽観的な見方を流布する。

　素朴な見方によれば、大規模なネットワークは個人にはとうてい望めないほど多くの情報を集めて処理することで、医学や物理学や経済学をはじめ、数多くの分野の理解を深めることが可能であり、そのおかげでネットワークは強力になるばかりか、賢くもなるという。たとえば製薬会社や医療サービスは、病原体についての情報を集めれば、多くの病気の本当の原因を突き止め、前よりもよく効く薬を開発し、その使い方に関してもっと賢明な判断を下せるようになるわけだ。この見方は、情報は十分な量があれば真実につながり、その真実がさらに力と知恵の両方につながるとしている。それに対して、無知は何にもつながらないらしい。妄想的なネットワークや人を欺くネットワークは、歴史的な危機に際してときおり現れることがあるかもしれないが、長い目で見れば、より明敏で正直な競争相手に必ず敗れる。病原体についての情報を無視する医療サービスや偽情報を意図的に広める巨大製薬会社は、情報をもっと賢く利用する競争相手にけっきょくは取って代わられるというのだ。このように素朴な見方に従えば、妄想的なネットワークは異常な例外に違いなく、大規模なネットワークはたいてい、力を賢く扱えると考えていいことになる。

　もちろん素朴な見方も、情報から真実への途上でさまざまな問題が起こりうることは認める。私たちは、情報を集めたり処理したりしているときに、うっかり間違いを犯すこともあるだろう。悪意を抱いた人物が強欲や憎悪に突き動かされて、重要な事実を隠したり、私たちを騙（だま）そうとしたりするかもしれない。その結果、情報は真実ではなく誤りにつながる場合もある。たとえば、不完全な情報や杜撰（ずさん）な分析、あるいは偽情報を拡散する組織的運動のせいで、専門家さえもが特定の病気の真の原因を取り違えかねない。

　とはいえ、情報の収集と処理に際して私たちが出くわす問題の大半は、なおいっそう情報を集めて処理することで解決できると、素朴な見方は決めつける。私たちはけっして誤りを犯さなくなることはないが、たいがいは、情報が多いほど正確さも増すというのだ。たしかに、たった一人の医師がたった一人の患者を診察するだけで感染症の原因を突き止めようとしても、何千もの医師が何百万もの患者のデータを集めた場合ほどうまくはいかないだろう。そして、医師たち自身が結託して真実を隠しても、一般大衆や調査報道ジャーナリストが医療についての情報を自由に手に入れやすくすれば、いずれその陰謀は暴かれる。この見方に従えば、情報ネットワークは大きいほど真実に近づくに違いないことになる。

　当然ながら、たとえ情報を正確に分析して重要な真実を発見しても、それによって得られた可能性を賢く活用できるという保証はない。知恵は普通、「正しい決定を下すこと」を意味すると思われているが、何をもって「正しい」とするかは価値判断の問題であり、多様な民族や文化やイデオロギーの間でその判断は分かれる。新しい病原体を発見した科学者たちは、ワクチンを開発して人々を守るかもしれない。だが、もしその科学者たち——あるいは、彼らを支配する政治権力者——が人種主義的なイデオロギーを信じていて、そのイデオロギーが、特定の人種は劣等であり、根絶されるべきだという考えを提唱していたら、その新しい医学の知識は何百万もの人の命を奪うような生物兵器の開発に使われかねない。

　この場合にも、情報の素朴な見方によれば、以下のようになる。さらに情報を集めれば少なくとも部分的な対策が得られる。価値についての意見の相違は、詳しく調べてみれば、情報の不足あるいは意図的な偽情報のせいであることが判明する。人種主義者は情報不足であり、生物学と歴史の事実を知らないだけだ。彼らは、「人種」は確かな根拠に基づく生物学的カテゴリーだと考えており、でっち上げの陰謀論によって洗脳されている。したがって、人種主義への対策は、人々に生物学的事実や歴史的事実をさらに提供することだ。時間はかかるかもしれないが、情報の自由市場では、遅かれ早かれ真実が勝利する。

　もちろん素朴な見方は数段落では説明し切れないほど意味深長で思慮に富むが、情報は本質的に良いものであり、多ければ多いほど良いというのが、その核心にある信条だ。私たちは十分な情報と十分な時間を与えられれば、ウイルスの感染から人種主義的な偏見まで、さまざまなことについての真実を必ず発見し、自らの力を伸ばすだけではなく、その力をうまく使うのに必要な知恵も発達させることができるというわけだ。

　この素朴な見方は、いっそう強力な情報テクノロジーの追求を正当化し、コンピューター時代とインターネットの半ば公式のイデオロギーとなってきた。ベルリンの壁が崩れ、鉄のカーテンが消滅する数か月前の1989年6月、当時アメリカの大統領だったロナルド・レーガンは次のように宣言した。「全体主義による支配というゴリアテが、マイクロチップというダビデによってすみやかに打ち倒されるだろう」。そして、「ビッグ・ブラザー〔訳註：ジョージ・オーウェルの『一九八四年』で全体主義国家オセアニアを統治する独裁者〕の類いでも最大のビッグ・ブラザーは、通信技術に対してしだいに無力化しつつある。［……］情報は現代における酸素だ。［……］上に有刺鉄線を張った壁を透過する。電流が流れ、爆弾が仕掛けてある国境の上をふわりと越える。電子ビームのそよ風は、鉄のカーテンがまるでレースであるかのように吹き抜ける」。2009年11月、当時の大統領バラク・オバマは、上海（シャンハイ）を訪問したときに同じような調子で中国の首脳陣にこう語った。「私は大のテクノロジー信奉者であり、また、情報の流れに関しては大の開放性信奉者でもあります。情報が自由に流れれば流れるほど、社会は強靱（きょうじん）になると考えています」

　起業家や企業もこれまで、情報テクノロジーについて同じようなバラ色の見方を示すことが多かった。すでに1858年には、電信の発明についての「ニューイングランダー」誌の論説にこうある。「そのような装置が、世界のあらゆる国家間での意見交換のために開発された今、昔ながらの偏見や敵意はもはや生き残れないだろう」。それから2世紀近くが過ぎ、二つの世界大戦を経た後、マーク・ザッカーバーグは、フェイスブック社（現メタ社）の目的は「世界をより開かれた場所にするために人々がより多くを分かち合うのを助け、人々の間の理解促進を後押しすることだ」と述べた。

　有名な未来学者で起業家のレイ・カーツワイルは、2024年の著書『シンギュラリティはより近く』で情報テクノロジーの歴史を見渡し、「テクノロジーが飛躍的な進歩を遂げているおかげで、生活のほとんどすべての面がしだいに改善しているというのが現実だ」と結論している。彼は人類の長大な歴史を振り返り、印刷機の発明などの例を挙げ、情報テクノロジーはまさにその性質上、「好循環」を引き起こす傾向にあり、「識字、教育、豊かさ、公衆衛生、健康、民主化、暴力の削減などを含む、人間生活の健全性のほぼすべての面を向上させる」と主張する。

　情報の素朴な見方を最も簡潔に捉えたのは、「世界の情報を整理して、普遍的にアクセス可能で有用なものにする」というグーグルの企業理念かもしれない。ゲーテの警告に対するグーグルの回答は、以下のようになる。たった一人の弟子が師の秘密の呪文の本を盗んだら惨事を招く可能性が高いが、大勢の弟子が世界のあらゆる情報に自由にアクセスできれば、魔法をかけて有用な箒をいくつも生み出すだけではなく、それらを賢く扱う術（すべ）も学ぶだろう。

 

グーグル vs. ゲーテ

　これは強調しておかなければならないが、より多くの情報を手に入れることで現に人間がこの世界の理解を深め、自分の力をより賢く使えるようになった事例は多数ある。たとえば、小児死亡率の劇的な低下を考えてほしい。ヨハン・ヴォルフガング・フォン・ゲーテは長男で、6人の弟妹がいたが、7歳の誕生日を祝えたのは彼と妹のコルネリアだけだった。弟のヘルマン・ヤーコプは6歳、妹のカタリナ・エリザベートは4歳、妹のヨハンナ・マリアは2歳、弟のゲオルク・アドルフは8か月で、それぞれ病気で亡くなり、残る一人の名もない弟は死産だった。その後、コルネリアは26歳で病没し、一家で生き延びた子供はヨハン・ヴォルフガングだけとなった。

　ヨハン・ヴォルフガング・フォン・ゲーテは、やがて5人の子供をもうけたが、長男のアウグスト以外は全員、生後2週間以内に亡くなっている。死因は十中八九、ゲーテと妻のクリスティアーネの血液型の不一致で、第一子は無事に出産できたものの、その後クリスティアーネは胎児の血液への抗体が体内にできたのだろう。「Rh式血液型不適合」と呼ばれるこの症状は今日では効果的に治療できるので、死亡率は2パーセント未満だが、1790年代には平均死亡率は50パーセントで、ゲーテの第二子以下4人にとっては死刑宣告に等しかった。

　18世紀後半のドイツの家庭としては裕福だったゲーテ一家の小児生存率は、2代合わせて25パーセントと悲惨だった。誕生した12人の子供のうち、成人できたのはわずか3人だ。だが、このぞっとするような統計は、けっして例外ではなかった。ゲーテが「魔法使いの弟子」を書いた1797年当時、ドイツで15歳まで生きる子供は約半数にすぎなかったと推定されている。世界の大半の場所でも、おそらく同じだっただろう。それが2020年には、全世界で95.6パーセントの子供が15歳の誕生日を迎え、ドイツではその数字は99.5パーセントに達していた。この画期的な成果は、血液型などのさまざまな事柄に関する厖大な医学的データを集め、分析し、共有しなければ得られなかっただろう。というわけで、この場合には情報の素朴な見方は正しかったわけだ。

　とはいえ、情報の素朴な見方は全体の一部しか見ておらず、近代以降の歴史は小児死亡率の削減だけにはとうていとどまらなかった。人類は近年、数世代にわたって、情報生産の量とスピードの両方でかつてないほどの増加を経験してきた。どのスマートフォンにも、古代のアレクサンドリア図書館の蔵書を上回る量の情報が入っているし、ユーザーは一瞬のうちに世界中の何十億という人とつながることができる。ところが、これだけの情報が息を呑むようなスピードで行き交っているのにもかかわらず、人類はこれまでにないほど自滅に近づいている。

　私たちは大量のデータを貯（た）め込んだというのに、あるいは貯め込んだせいだろうか、相変わらず温室効果ガスを大気中に放出し、海や川を汚染し、森林を伐採し、さまざまな生物の生息環境をまるごと破壊し、無数の種を絶滅に追い込み、自分自身の種の生態学的な基盤を危険にさらし続けている。そしてまた、水素爆弾から人類を滅亡させかねないウイルスまで、ますます強力な大量破壊兵器も製造している。各国の指導者は、こうした危険についての情報には事欠かないが、協働して解決策を見つける代わりに世界戦争にじりじりと近づいている。

　いっそう多くの情報を手に入れれば、状況は良くなるのか—それとも悪くなるのか？　まもなくわかるだろう。多くの企業や政府が、史上最強の情報テクノロジー、すなわちAIを開発しようと先を争っている。一流の起業家のうちには、アメリカの投資家マーク・アンドリーセンのように、AIがついに人類の問題をすべて解決するだろうと信じている人もいる。2023年6月6日、アンドリーセンは「AIが世界を救う理由」と題する小論を発表した。それには、「良いことをお知らせしよう。AIは世界を破壊したりはしない。それどころか、世界を救うかもしれない」「AIは、私たちが大切に思っているものをすべて改善できる」といった大胆な発言がちりばめられていた。彼は、こう締めくくっている。「AIの開発と普及は、私たちが恐れるべきリスクには程遠く、自らや子供たちや未来にとっての道徳的義務なのだ」

　レイ・カーツワイルも同意見であり、『シンギュラリティはより近く』で次のように主張している。「AIは、病気や貧困、環境悪化、人間のあらゆる弱点の克服といった、私たちが直面している差し迫った難題に対処することを可能にしてくれる、肝心要（かんじんかなめ）のテクノロジーだ。この新しい有望なテクノロジーを実現させることは、私たちの道徳的な責務だ」。カーツワイルはテクノロジーの潜在的な危険性を痛感しており、その危険性を詳しく分析しているが、それらは首尾良く軽減しうると考えている。

　一方、懐疑的な人もいる。哲学者や社会学者だけではなく、ヨシュア・ベンジオやジェフリー・ヒントン、サム・アルトマン、イーロン・マスク、ムスタファ・スレイマンら、多くの一流のAI専門家や起業家は、AIが私たちの文明を破壊しうることを世間一般に警告してきた。ベンジオやヒントンをはじめ多くの専門家が共同で執筆した2024年の論文は、「野放図なAIの発達は最終的に、人命と生物圏の大規模な喪失や、人類の疎外あるいは絶滅にさえつながりかねない」ことを指摘した。AI研究者2778人を対象とした2023年の調査では、回答者の3分の1超が、最悪の場合、高度なAIが人類の絶滅という悲惨な結果につながる可能性を最低でも10パーセントと見積もった。同年には、中国、アメリカ、イギリス、日本を含む30近い国の政府が、AIに関する「ブレッチリー宣言」に署名した。その宣言は、「これらのAIモデルの最も重大な能力から、意図的な、あるいは意図せぬ、深刻な、壊滅的でさえある害が生じる可能性がある」ことを認めるものだった。専門家や政府は、そのような終末論的な言葉を使いはしたが、叛乱（はんらん）を起こしたロボットが市街を駆け回って人々を銃撃するといったハリウッド映画のような場面を思い起こさせるつもりはない。そうした展開は現実になりそうになく、人々の注意を真の危険から逸らすだけだ。専門家たちはむしろ、以下のような2つの別の筋書きについて警告する。

　第一に、AIの力のせいで既存の人間の対立が激化し、人類が分裂して内紛を起こしかねない。20世紀には冷戦で鉄のカーテンが世界を競合する陣営に分断したのとちょうど同じように、21世紀には有刺鉄線ではなくシリコンチップとコンピューターコードでできたシリコンのカーテンが、競合する陣営を分断して新しいグローバルな対立に陥れるようになるかもしれない。AIの軍拡競争はしだいに破壊力の大きい武器を生み出すだろうから、ほんの小さな火花が散っただけで破滅的な大火災が起こりかねない。

　第二に、シリコンのカーテンは人間どうしを対立する陣営に分断するのではなく、全人類をAIという新しい支配者から隔てるようになるかもしれない。私たちはどこで暮らしていようと、人知を超えたアルゴリズムの網によって繭のようにすっぽり覆われ、アルゴリズムによって生活を管理され、政治と文化を作り変えられ、自分の身体と心までも設計し直される一方、自分を支配している力をもはや止めることはもとより、理解することもできないような事態に陥るかもしれない。もし21世紀の全体主義のネットワークが世界征服に成功すれば、そのネットワークを動かすのは人間の独裁者ではなく人間以外の知能かもしれない。全体主義の悪夢の主要な源泉として中国やロシア、あるいはポスト民主主義のアメリカを挙げる人は、この危険を見誤っている。実際には、中国人もロシア人もアメリカ人も、他のすべての人間とともに、人間以外の知能の全体主義的な潜在能力に揃（そろ）って脅かされているのだ。

　その危険の大きさを踏まえると、AIは全人類の関心事でなければならない。誰もがAIの専門家になれるわけではないにしても、私たちはみな、AIが自ら決定を下したり新しい考えを生み出したりすることのできる史上初のテクノロジーであるという事実を肝に銘じるべきだ。従来の人間の発明はすべて、人間に力を与えた。なぜなら、新しいツールがどれほど強力でも、その用途の決定権はつねに私たちの手中にとどまっていたからだ。ナイフや爆弾は、誰を殺すかを自ら決めることはない。それらは愚かなツールであり、情報を処理して自主的に決定を下すのに必要な知能を欠いている。それとは対照的に、AIは自ら情報を分析するのに求められる知能を持っており、したがって意思決定で人間に取って代わることができる。AIはツールではない——行為主体なのだ。

　AIは情報を使いこなせるので、音楽から医学まで、さまざまな分野で自主的に新しい考えを生成することもできる。蓄音機は音楽を聞かせてくれたし、顕微鏡は私たちの細胞の秘密を明らかにしてくれたが、蓄音機には新しいシンフォニーを作曲することはできなかったし、顕微鏡には新しい薬を合成することができなかった。一方、AIはすでに自ら芸術作品を創作したり科学的発見を成し遂げたりすることができる。今後数十年のうちには、遺伝子コードを書くか、非有機的な存在に生命を与える非有機的なコードを発明するかして、新しい生命体を創造する能力さえ獲得する可能性が高い。

　AI革命がまだ初期段階にある現時点でも、コンピューターは私たちについてすでに決定を下している。住宅ローンを組むことを認めるかどうか、仕事に雇うかどうか、刑務所に送るかどうかといった決定だ。この傾向は強まり、加速する一方だろう。そのため、私たちは自分の生活を理解するのがいっそう難しくなる。私たちはコンピューターアルゴリズムを信頼し、賢い決定を下してより良い世界を生み出してもらえると思って、安心していいのだろうか？　それは、魔法をかけた箒が水を運んでくれることを当てにするよりもはるかに危険な賭けだ。そして、私たちが賭けているのは人間の命だけではない。AIは、サピエンスの歴史の道筋ばかりか、あらゆる生命体の進化の道筋さえも変えかねないのだから。

 

情報を武器化する

　私は2016年に『ホモ・デウス』を刊行した〔訳註：邦訳単行本は2018年刊行〕。それは、新しい情報テクノロジーが人間にもたらす危険をいくつか際立たせる本だ。歴史の真の主人公はこれまでつねにサピエンスよりもむしろ情報だったこと、そして科学者はしだいに、歴史だけではなく生物や政治や経済も情報の流れという観点から理解するようになってきていることを、私は同書で論じた。動物も国家も市場もすべて情報ネットワークであり、環境からデータを吸収し、決定を下し、今度は環境へとデータを発している。情報テクノロジーが進歩すれば健康や幸福や力が得られることを私たちは望んでいるものの、じつは情報テクノロジーは私たちから力を奪い去り、私たちの心身両方を蝕（むしば）むかもしれないと、私は警告した。そして、用心を怠ったなら、私たち人間は急流に呑まれた土塊（つちくれ）のように、データの奔流に溶けて消えかねないし、俯瞰（ふかん）的に見れば、人類など広大無辺なデータフローの中の小波（さざなみ）にすぎなかったということになるという仮説を立てた。

 『ホモ・デウス』が出版されてからの年月に、変化のペースは速まるばかりで、力は現に人間からアルゴリズムへと移り続けてきた。アルゴリズムが芸術作品を創作する、人間になりすます、私たちの人生にかかわるきわめて重大な決定を下す、私たちが自分について知っている以上に私たちのことを知るといった、2016年にはSFのようにしか聞こえなかった筋書きの多くが、2024年には日常の現実となった。

　2016年以降に変化したことは、他にも多々ある。生態系の危機が深刻になり、国際的な緊張が高まり、大衆迎合主義（ポピュリズム）の波が確固たる民主主義国においてさえ人々の団結を損なってきた。ポピュリズムは、情報の素朴な見方にも激しく挑んできた。ドナルド・トランプやジャイール・ボルソナーロのような指導的立場にあるポピュリストと、Qアノンやワクチン反対派のようなポピュリズム運動や陰謀論によれば、情報を集めて真実を発見すると称することで権威を獲得する伝統的な機関はすべて、嘘をついているにすぎないということになる。官僚や裁判官、医師、主流のジャーナリスト、学識経験者は、みなエリートの陰謀団に属しており、真実には何の関心もなく、「人民」を犠牲にして自らが権力と特権を得るために意図的に偽情報を広めているのだそうだ。トランプのような政治家やQアノンのような運動の台頭には、2010年代後半のアメリカの状況ならではの、特別な政治背景がある。だが、反体制の世界観としてのポピュリズムは、トランプのはるか前にまでさかのぼるし、現在と将来の他の無数の歴史状況に関連している。一言で言えば、ポピュリズムは情報を武器と見ているのだ。

　極端なポピュリズムは、客観的な真実などというものはまったく存在せず、誰もが「その人独自の真実」を持っていると断定する。人々はその真実を使って競争相手たちを倒す。この世界観によれば、以下のようになる。力こそが唯一の現実だ。社会的なかかわり合いはすべて権力闘争であり、それは人間は力にしか関心がないからだ。真実や正義といった、何か他のことに関心があると主張するのは、力を得るための策略以外の何物でもない。情報は武器であるという見方を広めるのにポピュリズムが成功する場合には、いつであれどこであれ、言語そのものが損なわれる。「事実」という名詞や、「正確な」「真実の」などの修飾語の意味があやふやになる。そうした単語は、共通の客観的現実を指し示すものとは受け止められない。むしろ、誰かが「事実」や「真実」について語ると必ず、少なくとも一部の人は「誰の事実や誰の真実について話しているのか？」と問うことになる。

　これは強調しておかなければならないが、このように力に焦点を合わせ、はなはだ懐疑的な目で情報を見るのは、新しい現象でもなければ、ワクチン反対派や地球平面説の信奉者、ボルソナーロ支持者やトランプ支持者が思いついたことでもない。同じような見方は、2016年のアメリカ大統領選挙よりもはるか前に広まっており、とりわけ頭の切れる人々のうちにも、その見方を拡散させる者がいた。たとえば、20世紀後半にはミシェル・フーコーやエドワード・サイードといった過激な左派の知識人は、診療所や大学などの科学的機関は永遠の客観的真実を追求してはおらず、資本主義や植民地主義のエリートたちのために、何が真実のうちに入るのかを権力を使って決めていると主張した。こうした過激な批判者は、「科学的事実」は資本主義や植民地主義の「言説」にすぎず、権力を握っている人は真実に心から関心を抱くことは金輪際ありえず、自らの間違いを認めて正すこともけっして見込めないとまで主張することがあった。

　この種の過激な左派の考え方は、カール・マルクスまでさかのぼる。マルクスは19世紀半ばに、力こそが唯一の現実で、情報は武器であるとし、真実と正義のために尽くしていると称するエリートはじつは自分の階級だけの特権を追求していると主張した。1848年の『共産党宣言』には、こう書かれている。「これまでのあらゆる社会の歴史は階級闘争の歴史である。自由民と奴隷、貴族と平民、領主と農奴、ギルドの親方と職人、すなわち虐げる者と虐げられる者とが、常時真っ向から対立し、ときには隠然と、ときには公然と、絶えることのない闘いを繰り広げてきた」。この二項対立の歴史解釈によれば、人間どうしのかかわりはすべて、虐げる者と虐げられる者との権力闘争ということになる。したがって、誰かが何か言ったときにはいつも、問うべきなのは、「何が言われているのか？　それは真実か？」ではなく、「誰がそう言っているのか？　それは誰の特権に資するのか？」だ。

　当然ながら、トランプやボルソナーロのような右派のポピュリストたちがフーコーやマルクスを読んでいるとは思えないし、実際彼らは猛烈な反マルクス主義者という顔をする。課税や福祉といった分野では、マルクス主義から大きく掛け離れた政策も打ち出す。だが、社会や情報についての基本的な見方は驚くほどマルクス主義的であり、彼らも人間どうしのあらゆるかかわりを、虐げる者と虐げられる者との権力闘争と見なす。たとえばトランプは2017年の大統領就任演説で、「我が国の首都のごくわずかな人々が政府の恩恵に浴してきたのに対して、人民がそのコストを担ってきた」と言い切った。そのような言説はポピュリズムの定番だ。政治学者のカス・ミュデはポピュリズムのことを、「社会は『高潔な人民』と『腐敗したエリート』という二つの、それぞれ同質で互いに対立する集団に最終的に分けられると考えるイデオロギー」というふうに説明している。メディアは資本家階級の代弁者として機能し、大学などの科学的機関は資本家による支配を永続させるために偽情報を広めるとマルクス主義者が主張したのとちょうど同じように、ポピュリストは、そうした機関が「人民」を犠牲にして「腐敗したエリート」の利益を増進するために働いていると非難する。

　今日のポピュリストも、過去何世代にもわたって過激な反体制運動につきまとってきたのと同じ一貫性の欠如という問題を抱えている。もし力こそが唯一の現実で、情報は武器にすぎないのなら、ポピュリスト自身はどうなるのか？　彼らも力だけにしか関心がなく、力を獲得するために私たちに嘘をついているのか？

　ポピュリストは、二つの異なる方法でこの難問から抜け出そうとしてきた。一部のポピュリズム運動は、現代科学の理想と昔ながらの懐疑的な経験主義を遵守すると主張する。だからこそ、権威ある機関や人物は、ポピュリストを自称する政党や政治家も含めて、けっして信頼するべきではないと人々に言う。権威を信頼する代わりに、「自分で調査し」、我が目で直接確認できるものだけを信頼するべきなのだ。この過激な経験主義の観点に立てば、政党や裁判所、新聞社、大学といった大規模な機関は絶対に信頼できないものの、各個人が努力を惜しまずに調べれば、依然として自ら真実を見つけ出せることになる。

　このアプローチは科学的に聞こえるかもしれないし、自由な精神を持った人の心には訴えるかもしれないが、それを採用すると、人間のコミュニティがどうしたら協力して医療制度を構築したり、環境規制を成立させたりすることができるかという問題は未解決になる。なぜなら、そうした制度や規制には、目的を共有する大規模な機関が求められるからだ。地球の気候が温暖化しているかどうかや、それについて何をするべきかを判断するために必要な調査をすべて行なうことが、一個人に可能だろうか？　過去何世紀にもわたって信頼できる記録を手に入れることはもとより、世界中の気候データを集めることにまで、一個人がどう取り組めばいいというのか？　「自分自身による調査」だけを信頼するというのは科学的に聞こえるかもしれないが、それは現実には、客観的な真実などないと信じることに等しい。第4章で見るように、科学は個人的な探究ではなく、共同で行なう組織的な努力なのだ。

　ポピュリストのもう一つ別の解決法は、「調査」を通して真実を見つけるという現代科学の理想を放棄し、代わりに、神の啓示や神秘主義に立ち戻るというものだ。キリスト教やイスラム教やヒンドゥー教などの伝統的な宗教ではたいてい、人間は力に飢えた信頼できない生き物であり、神知の介入のおかげによってのみ真実にアクセスできるとされる。2010年代から20年代の初めにかけて、ブラジルからトルコ、アメリカからインドまで、さまざまな国でポピュリスト政党はそのような伝統的宗教に同調してきた。それらは、現代の制度や機関についての過激な疑念を並べ立てる一方、古代の聖典に対する全幅の信頼を宣言してきた。「ニューヨーク・タイムズ」紙や「サイエンス」誌の記事は、力を獲得しようとするエリートたちの策略の道具にすぎないが、聖書やクルアーン（コーラン）やヴェーダ〔訳註：インド最古の聖典〕に書かれていることは絶対的な真実だとポピュリストは主張する。

　同じテーマの別バージョンは人々に、トランプやボルソナーロのようなカリスマ的な指導者を信用するように求める。そうした指導者は、神の使者、あるいは「人民」と神秘的な絆（きずな）で結ばれた人物として支持者に受け止められる。普通の政治家は自らが権力を獲得するために人民に嘘をつくが、カリスマ的な指導者は人民の不可謬（ふかびゅう）の（つまり絶対間違いのない）代弁者であり、あらゆる嘘を暴くという。ポピュリズムにつきまとう矛盾はいくつもあるが、エリートは誰もが権力に対する危険な渇望に駆り立てられていると私たちに警告することから始めておきながら、けっきょく、あらゆる権力をたった一人の野心的な人間に委ねてしまう場合が多いというのも、その矛盾の一つだ。

　ポピュリズムについては第5章で掘り下げるとして、この段階では次の点を指摘しておくことが重要だ。生態系の崩壊や世界戦争や制御不能のテクノロジーという、存亡にかかわる難題の数々に人類が直面しているまさにそのときに、ポピュリストたちは大規模な制度や機関、国際協力への信頼を損なっている。彼らは人間の複雑な制度や機関を信頼する代わりに、パエトンの神話や「魔法使いの弟子」と同じ助言を私たちに与える。「神あるいは偉大な魔法使いを信頼し、安心するといい。彼らが乗り出してきて、万事を正して元どおりにしてくれるから」と。もしこの助言に従えば、私たちは当面、権力に飢えた最悪の種類の人間の言いなりになり、やがては新しいAIという支配者に牛耳られることになりそうだ。あるいは、地球が荒れ果てて人間の生存に適さなくなり、私たちはすっかり姿を消してしまうかもしれない。

　もしカリスマ的な指導者や人知を超えたAIに力を譲り渡すのを避けたいのなら、私たちはまず、情報とは何かや、人間のネットワークを構築するのに情報がどう役立つかや、情報が真実と力にどのように関連しているかをもっとよく理解しなければならない。ポピュリストたちが情報の素朴な見方に懐疑的なのは正しいが、力こそが唯一の現実で情報はつねに武器であると考えるのは間違っている。情報は真実の原材料ではないが、ただの武器でもない。これら二つの極端な見方の間には、人間の情報ネットワークや、力を賢く扱う私たちの能力についての、もっと微妙なニュアンスを含む、希望に満ちた見方が入り込む余地がある。本書は、そのような中道を探究することに捧げられている。

 

今後の道筋

　本書の第Ⅰ部では、人間の情報ネットワークがたどってきた発展の歴史を概観する。もっとも、文字体系や印刷機、ラジオといった情報テクノロジーを広範にわたって一世紀ずつ詳しく説明するつもりはない。そうする代わりに、いくつかの事例を調べることによって、あらゆる時代の人が情報ネットワークを構築するときに直面した主なジレンマを探り、それらのジレンマにどのような回答を出すかによって、大きく異なる人間社会が形作られてきた経緯を考察する。私たちが通常はイデオロギーの争いや政治的争いと考えるものは、じつは対立する種類の情報ネットワークの衝突であることが多い。

　第Ⅰ部ではまず、人間の大規模な情報ネットワークにとってこれまで不可欠だった二つの要因、すなわち神話と官僚制を考察する。第2章と第3章では、古代の王国から今日の国家まで、大規模な情報ネットワークが神話作者と官僚の両方にどのように頼ってきたかを説明する。たとえば、聖書に収録された物語はキリスト教会にとって不可欠だったが、もし教会の官僚たちがこれらの物語を選別し、編集し、広めていなければ、聖書は存在していなかっただろう。人間のどのネットワークにとっても厄介なのは、神話作者と官僚がそれぞれ異なる方向に進みたがる傾向にあるというジレンマだ。制度や機関や社会は、それが自らの神話作家と官僚の対立するニーズの間にどのようなバランスを見つけることができるかで特徴が決まることが多い。キリスト教会そのものも、カトリック教会とプロテスタント教会のような競合する教会に分裂し、それぞれが神話と官僚制の間に独自のバランスを見出（みいだ）した。

　続く第4章では、誤情報の問題と、独立した裁判所や専門家の査読のある科学雑誌のような自己修正メカニズムを維持することの利点と欠点に焦点を当てる。そしてこの章では、弱い自己修正メカニズムに頼ってきたカトリック教会のような機関と、強い自己修正メカニズムを発展させた科学の各専門分野の学会などの機関とを比較する。弱い自己修正メカニズムは、近世のヨーロッパで行なわれた魔女狩りのような歴史的惨事を招くことがあるのに対して、強い自己修正メカニズムは内部からネットワークを不安定にする場合がある。カトリック教会は、自己修正メカニズムが相対的に弱いにもかかわらず、あるいは、ことによると弱いからこそ、持続性や到達範囲や力に関しては人類史上最大の成功を収めてきた機関なのかもしれない。

　神話と官僚制の役割を概観し、強い自己修正メカニズムと弱い自己修正メカニズムを比べた後、第Ⅰ部の最後の第5章では、分散型の情報ネットワークと中央集中型の情報ネットワークの対比という、さらに別の比較に的を絞る。民主主義体制が多くの独立した経路に沿って情報が自由に流れるのを許すのに対して、全体主義体制は情報を一つの拠点（ハブ）に集中させようとする。そのどちらにも長所と短所がある。アメリカやソヴィエト連邦（ソ連）のような政治制度を情報の流れの観点から理解すれば、両者が異なる道筋をたどったことにもおおいに納得がいく。

　本書の中で歴史にかかわるこの部分は、今日の情勢や将来の筋書きを理解する上できわめて重要だ。AIの台頭は、史上最大の情報革命と言えるだろう。だがこの革命は、過去の情報革命と比較しなければ理解できない。歴史は過去の研究ではない。変化の研究だ。歴史は、何が変わらず、何が変化し、物事がどのように変化するかを教えてくれる。これは、あらゆる種類の歴史的変遷に当てはまり、情報革命も例外ではない。だから、不可謬ということになっている聖書が正典化された過程を理解すれば、AIは不可謬であるという、今日なされている主張についての貴重な見識が得られる。同様に、近世の魔女狩りや20世紀のスターリンによる集産化を調べれば、AIに21世紀の社会のますます大きな支配権を与えたときにどのような問題が生じかねないかについて、厳しい警告が発せられるだろう。歴史を深く知って初めて、AIに関して何が新しいのか、AIは印刷機やラジオと根本的にどう違うのか、将来のAI独裁制はこれまで私たちが目にしてきたものとは、具体的にはどのような形でまったく異なりうるのかを理解することも可能になる。

　本書は、過去を調べれば未来が予測できるとは主張していない。今後のページでも繰り返し念を押すが、歴史は決定論的ではなく、未来は今後の年月に私たち全員が行なう選択によって決まる。本書を書いたのは、確かな情報に基づいた選択を行なえば、最悪の成り行きを防げるということを伝えるためにほかならない。もし未来を変えられないのなら、未来を論じるのは時間の無駄ではないか。

　第Ⅰ部での歴史の概観を踏まえ、本書の第Ⅱ部「非有機的ネットワーク」では、AIの台頭の政治的な意味合いに焦点を合わせながら、今日私たちが構築している新しい情報ネットワークを考察する。第6〜8章では、2016〜17年のミャンマーでの民族間抗争を煽動（せんどう）する上でソーシャルメディア（SNS）のアルゴリズムが果たした役割のような、世界各地の近年の例を論じ、AIがこれまでの情報テクノロジーのいっさいとどのように違うかを説明する。取り上げる例が主に2020年代ではなく10年代のものなのは、いくらか時を経た10年代の出来事については多少なりとも歴史的な視点から捉えることができるからだ。

　第Ⅱ部では、私たちがまったく新しい種類の情報ネットワークを作り出していること、それも、立ち止まってその意味合いを熟慮せずにそうしていることを説明する。ここで強調するのは、有機的な情報ネットワークから非有機的な情報ネットワークへの移行だ。ローマ帝国もカトリック教会もソ連もみな、炭素ベースの脳に頼って情報を処理し、決定を下していた。新しい情報ネットワークを支配するシリコンベースのコンピューターは、それとは根本的に異なる形で機能する。良くも悪くも、シリコンチップは、炭素ベースのニューロン（神経細胞）が課されている有機生化学的制約の多くを免れる。シリコンチップは、けっして眠らないスパイや、何一つ忘れない金融業者や、絶対に死なない独裁者を生み出すことができる。これは、社会や経済や政治をどのように変えるだろうか？

　本書の最後に来る第Ⅲ部「コンピューター政治」では、非有機的な情報ネットワークの脅威と将来性に、異なる種類の社会がそれぞれどう対処できるかを考察する。私たちのような炭素ベースの生命体には、新しい情報ネットワークを理解して制御できる可能性があるだろうか？　先ほど指摘したように、歴史は決定論的ではないし、少なくともあと数年は私たちサピエンスが自らの未来を形作る力を依然として持ち続けるだろう。

　したがって、第9章では民主社会が非有機的ネットワークにどう対処したらいいかを探る。たとえば、もし金融制度がますますAIに制御され、貨幣の意味そのものが人知を超えたアルゴリズム次第になってくるなら、生身の政治家たちはどうやって財務上の決定を下すことができるだろう？　もし私たちが、話をしている相手がやはり人間なのか、それとも人間になりすましているチャットボットなのか、もはや区別できないとしたら、金融であれジェンダーであれ、どんなテーマについても、民主社会はどうやって公の場での話し合いを維持することができるのか？

　第10章では、非有機的なネットワークが全体主義にどのような影響を与えうるかを探る。独裁者は公の場での話し合いをすべてなくすことができれば喜ぶだろうが、彼らにはAIに対して彼らなりの恐れがある。独裁国家は、自らの手先を威嚇したり粛清したりすることで成り立っている。だが人間の独裁者は、いったいどうやってAIを威嚇したり、人知を超えたAIのプロセスを粛清したり、AIが自ら権力を手中に収めるのを防いだりすることができるというのか？

　最後に第11章では、新しい情報ネットワークが地球規模で民主主義社会と全体主義社会の間の力の均衡にどのような影響を与えうるかを探る。AIは、どちらかの陣営に決定的に有利な形でそのバランスを崩すだろうか？　世界は敵対するブロックに分裂し、その対立のせいで私たちはみな、制御不能のAIの餌食になるのだろうか？　それとも、私たちは団結して共通の利益を守ることができるのだろうか？

　だが、情報ネットワークの過去と現在と到来しうる未来を探る前に、一見単純な疑問から始める必要がある。情報とは、いったい何なのか？

 

＊

続く、人間の情報ネットワークがたどってきた発展の歴史を概観する「第Ⅰ部　人間のネットワーク」以降は、書籍『NEXUS 情報の人類史（上）』でお楽しみください。

『NEXUS 情報の人類史（上）』目次

『NEXUS 情報の人類史（下）』目次