■河出書房新社 20220402
産業革命後、工業国の経済や軍隊は、膨大な数の庶民を必要とした。その結果、20世紀はおおむね、階級や人種などの不平等は縮小してきた。
20世紀の後期は、民主国家が独裁国家を圧倒してきた。民主主義は、情報を処理して決定する力を、多くの人に行き渡らせるのに対して、独裁制は情報と権力を1カ所に集中させる。20世紀のテクノロジーでは、あまりに多くの情報と権力を1カ所に集中させるのは効率が悪かった。
ところがAIが発展すれば、集中型のシステムの方が分散型よりも効率がよくなる可能性が高い。
あらゆる富と権力が、ひと握りエリートの手に集中する一方で、ほとんどの人は「搾取」よりさらに悪い「存在意義の喪失」に苦しむことになる。
20世紀に花ひらいた自由主義は、経済成長に頼ることで社会的な争いを解決してきた。だが経済成長を前提とする自由主義では、グローバルな生態系は救えないし、経済成長は破壊的技術の進展を前提とするから技術的破壊を解消することもできない。
生物工学とAIの革命は、何十億もの人を雇用市場から排除し、ひとにぎりの超人階級と、膨大な「無用階級」へと二分させかねない。
バイオテクノロジーと情報テクノロジーの革命が融合したとき、「私」の感情を自分自身より正確に把握するビッグデータアルゴリズムが誕生する。私の内なる領域を私以上に理解する企業や政府機関があらわれれば「自由意志」という概念さえ崩れ去ってしまう。
筆者は人類共通の敵として、上記の技術的破壊と核戦争、気候変動の3つをあげる。
こうしたテクノロジーの技術的破壊や気候変動にとりくむには、国民国家では不十分であり、それぞれの国や都市の政治がグローバルな問題をずっと重視するようにならなければならない。
核戦争の危険を減らすため、気候変動の危険を減らすため、AIや生物工学のような破壊的技術を規制するためにどんな行動をとるかを政治家に問いつづけることが大切だという。
そのほかの論考も目から鱗の内容ばかりだった。天才学者の思考力の源に「瞑想」があることも意外だった。
▽テロ
テロは、物的損害を引き起こすのではなく「おそれ」を広めることで、政治情勢が変わるのを期待する軍事戦略。
中世の人はテロなど気にかけなかった。もっと大きな問題があったからだ。現代の西洋諸国は政治的暴力をほぼ根絶することに成功した。平和になれることで逆にテロに衝撃を受けるようになった。
▽侵略
21世紀に主要国がおこなった侵略で、これまで唯一成功したのはロシアによるクリミヤ征服だ。だがこの戦争でウクライナの反ロシア感情に火がつき、ウクライナは盟友から敵に変わってしまった。経済的資産の中心がモノだった時代は、征服によって裕福になるのは比較的簡単だったが、21世紀の経済的資産は、技術や組織の知識からなりたっている。
▽世俗主義
世俗主義の倫理の基盤は、神の命令に従うことではなく、苦しみを深く理解することにある。無知を認め、難しい疑問の提起をいとわない人々からなる社会のほうが、だれもが単一の答えを受け入れる社会よりも平和である。
世俗主義では、生身の人間だる私たちが、自分のすること、しないことの責任を負わなければならない。
「世俗主義者は神を信じない」という定義ならばスターリンは世俗主義者だが、「世俗主義者は非科学的な信条は退け、真実と思いやりと自由を重視する」という肯定形の定義を使うなら、マルクスは世俗主義の権威だが、スターリンは、きわめて教条主義的な宗教の預言者だった。
世俗主義の運動は、自らの不完全性を心得ているので、小さな変化を少しずつもたらすことを期待する。
▽宗教
でっちあげの話を1000人が1カ月信じたら、それはフェイクニュースだが、その話を10億人が1000年間信じたら宗教だ。
宗教の教義は、軍隊を組織したりするだけでなく、病院や学校や橋も建設させる。
優れた物語（宗教）は真実である必要はないが、私に役割を与え、私の視野の外まで延びていなければならない。物語は虚構でありながら、私にアイデンティティーを提供し、自分の人生には意味があると感じさせることができる。
▽儀式
もし人生の真実を知りたければ、さまざまな儀式は障害となる。だが孔子のように、もし社会の安定と調和に関心があるのなら、真実は不都合なことが多いのに対して、さまざまな儀式はおおいに役立つ。
▽物語
世界や人生の意味や自分自身のアイデンティティについて真実を知りたければ、まず悲しみに注意を向け、それが何かを調べるのにかぎる。その答えは物語ではない。
「個人のアイデンティティや社会制度がいったん物語の上に築かれると、その物語を疑う行為は想像を絶するものになる。それは、その物語を裏づける証拠があるからではなく、物語が崩れたら、個人と社会の激動が引き起こされるからだ」
＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝
▽46
自由主義は、経済成長に頼ることで社会的争いや政治的争い解決してきた。
私たちが直面する最大の問題である生態系の崩壊と技術的破壊に対して答えを持っていない。
経済成長はグローバルな生態系を救えない。経済成長は破壊的技術をますます多く発明することの上になり立っているから、技術的破壊を解消することもできない。
ITとバイオテクノロジー〓のさまざまな革命が、もっとも厳しい試練を人類に突きつけてくるだろうことは疑いようがない。
テクノロジーの革命は、何十億もの人を雇用市場から排除して巨大な「無用者階級」を生みだし、社会的・政治的大変動を招くかもしれない.。大量失業の時代。
▽65 AI アメリカ軍はドローン1機を動かすには1機あたり30人必要で、得られた情報を分析するのに、さらに80人が従事。2015年、米空軍はこれらを埋めるだけの人材を確保できず、無人機のための人員の不足という危機を迎えた。
絶え間ない変動のせいで、組合を組織したり、労働権を確保するのも難しくなる。急激にあらわれ10年もしないうちに消えていく職種で労働組合を組織することなどできるだろうか。
▽69 チェスなど、多くのプログラムが、ただの計算力だけではなく「創造性」においてさえ、日常的に人間のチェスプレイヤーを打ち負かしている。
▽95 バイオテクノロジー革命が情報テクノロジー革命と融合したとき、私の感情を私よりはるかにうまくモニターしてくれるビッグデータアルゴリズムが誕生する。その暁には、権限はおそらく人間からコンピューターへと移る。これまではアクセス不能だった私の内なる領域を理解して操作する組織や企業や政府機関に日々出くわしているうちに、自由意志という私の幻想は崩れ去るだろう。
▽121 20世紀後期には、民主国家はたいてい独裁国家に勝った。民主主義は、情報を処理して決定を下す力を、多くの人や組織に行き渡らせるのに対して、独裁制は情報と権力を1カ所に集中させる。20世紀のテクノロジーでは、あまりに多くの情報と権力を1カ所に集中させるのは効率が悪かった。
ところがAIが振り子を逆方向に向かわせかねない。AIを使えば、集中型のシステムの方が分散型よりも効率がよくなるかもしれない。機械学習は分析できる情報が多いほどうまくいくからだ。
▽131 あらゆる富と権力が、ほんの一握りのエリートの手に集中する一方で、ほとんどの人が搾取ではなく、それよりもはるかに悪いもの、すなわち存在意義の喪失に苦しむことになるかもしれない。
▽133 産業革命で、一般大衆がかつてないほど重要にななった。工業国の経済も軍隊も、膨大な数の庶民を必要とした。……その結果、20世紀の歴史はおおむね、階級や人種、ジェンダー間の不平等の縮小を中心に展開した。
……AIが普及すれば、ほとんどの人の経済価値と政治権力が消滅しかねない。同時にバイオテクノロジーが進歩すれば、経済的な不平等が生物学的不平等に反映されることになるかもしれない。
〓生物工学とAIの普及の組み合わせは、一握りの超人の階級と、膨大な数の無用の下層階級へと人類を二分しかねない。
▽145 情報テクノロジーとバイオテクノロジーの融合は、現代の価値観の核となる自由と平等を脅かす。
▽148
▽169 1万年前、人類は無数の孤立した部族に分かれていた。時の流れとともに、それらの部族が融合してしだいに大きな集団となり、……ここ数世代の間に、わずかに残っていた文明も、単一のグローバルな文明にまとまりつつある。
▽182 1618年にヨーロッパ人であるというのは、カトリックとプロテスタント、カルヴァン主義とルター主義者の間の些細な教義上のちがいにこだわり、喜んで殺したり殺されたりすることを意味した
▽189 民主主義はナショナリズム抜きにはきちんと機能できない。当事者全員が同じ国家への忠誠心を共有しているときにだけ、民主的な選挙の結果をすすんで受け入れるものだ。……問題は、有益な愛国心が狂信的排外主義の超国家主義に変容したときにはじまる。
▽205 気候変動もテクノロジーの技術的破壊も、ナショナリズムの答えはない。こうした問題に取り組むには、国民国家は不適当なのだ。
……生命の将来について賢明な選択をするためには、ナショナリズムの見地をはるかにこえて、宇宙の視点からさえ物事を眺める必要がある。
▽210 共通の敵は、共通のアイデンティティをつくりあげるための最善の触媒であり、人類には今、そのような敵が3つある。核戦争と気候変動と技術的破壊だ。これらの共通の脅威があるにもかかわらず、人間が自国への忠誠心をほかのすべてに優先させることを選んだら、結果は1914年や1939年よりもはるかに悪くなりかねない。
解決策は政治をグローバル化すること。
「グローバル政府」の設立ではなく、それぞれの国のなかの政治的ダイナミクスが、都市のなかの政治的ダイナミクスが、グローバルな問題や利益をもっとずっと重視することを意味する。
政治家には次の4つの質問をしてほしい。
核戦争の危険を減らすためにどんな行動をとるか。
気候変動の危険を減らすためにどんな行動をとるか。
AIや生物工学のような破壊的技術を規制するためにどんな行動をとるか
2040年の世界をどうみているか。
▽224 宗教は現代の重要な政治議論にはろくに貢献できない。
▽229 カミカゼは、最新のテクノロジーと、最新の宗教的教化の組み合わせを拠り所としていた。
▽250
▽261 テロは、物的損害を引き起こすのではなくおそれを広めることで、政治情勢が変わるのを期待する軍事戦略だ。敵にたいした物的損害を与えられない非常に弱い集団が採用する。
▽265
▽270 中世の人はテロなど気にかけなかった。もっと大きな問題をいくつも抱えていたからだ。
近代に入り、政治的暴力をじょじょにへらし、西洋諸国はそうした暴力をほぼ根絶出来た。
政治的暴力が少ない国ほど、一般大衆はテロ行為におおきな衝撃を受ける。……/現代国家は、政治的暴力を防ぐのに成功したがゆえに、テロに対して特別脆弱になっているのだ。
……自分の想像力をテロリストから解放し、釣り合いの取れた、冷静な形で反応すれば、テロは失敗に終わる。
▽284 21世紀に主要国がおこなった侵略で、これまで唯一成功したのはロシアによるクリミヤ征服だ。
……この戦争でウクライナの反ロシア感情に火がつき、ウクライナは盟友から不倶戴天の敵に変わってしまった。
大国としてのロシアの威信は高まったものの、……経済的にも損失を招いている。
▽289 かつては、経済的資産は主にモノだった。征服によって裕福になるのは比較的簡単だった。……21世紀は、経済的資産は、技術的な知識や組織の知識からなる。
▽311 世俗主義者は真実を神聖視する。世俗主義の倫理の基盤は、何かしらの神の命令に従うことではなく、苦しみを深く理解することだ。
▽336 無知を認め、難しい疑問を提起するのを厭わない勇敢な人々からなる社会のほうが、だれもが単一の答えを疑わずに受け入れなくてはならない社会よりも、たいてい繁栄するばかりか、平和でもある。
……世俗主義者は責任を大切にする。……生身の人間だる私たちが、自分のすること、しないことのいっさいに責任を負わなければならない。
（〓世俗主義者のよさ。みんなが迷い、責任をもつ〓らくじゃないから）
▽339 「世俗主義者は神を信じない」という定義を使うなら、スターリンは世俗主義者だった。もし「世俗主義者は非科学的な信条ははすべて退け、真実と思いやりと自由を心底重視する」〓という肯定形の定義を使うなら、マルクスは世俗主義の権威だったが、スターリンはちがった。神の存在は認めないもののきわめて教条主義的な宗教の預言者だった
▽345 非教条主義的な世俗主義の運動は、自らの不完全性を心得ているので、小さな変化を少しずつもたらすことを期待している。教条主義的なイデオロギーは、自信過剰であるために、不可能な目標の達成を常習的に誓うのが特徴だ。
▽350 （自由主義・資本主義のうたう）合理的な個人というものを信頼しすぎるのは誤りだ。……ホモ・サピエンスが地球の主人公になれたのは、個人の合理性ではなく、大きな集団がいっしょに考えるという、比類のない能力のおかげだった。
▽357 権力の中心にとどまれば、世界をはなはだしく歪んだ形でしか見られない。だが、思い切って周辺部に行けば、希少な時間をあまりに多く浪費することになる。……個々の人間は、世界の行方を決める技術的な装置や経済の動向や政治のダイナミクスについて、知っていることがいっそう少なくなる。（〓権力者も無知、AIに頼るか）
▽368 人は宗教的ドグマをいっさい退け、科学的な真実を重視するところからはじめたとしても、遅かれ早かれ現実の複雑さに我慢できなくなり、疑問を差し挟むことを許さない教義をつくりださざるをえなくなる。（〓正義が見えない）
▽375 でっちあげの話を1000人が1カ月信じたら、それはフェイクニュースだ。だが、その話を10億人が1000年間信じたら、それが宗教で、信者の感情を害さないために、それを「フェイクニュース」と呼ばないように諭される。
……よくも悪しくも、虚構は人間のもつ道具一式のなかでもとりわけ効果的だ。……宗教の教義は、軍隊を組織したりするだけでなく、病院や学校や橋も建設させる。
▽390 信頼できる情報が欲しければ、たっぷりお金を払うことだ。ニュース市場で支配的なモデルは「あなたには費用のかからない、エキサイティングなニュースを、あなたの注意と引き換えに」だ。何も払わないかわりに、低品質の製品を手に入れる。さらに、あなた自身が図らずも製品になってしまう。
……「お金はかかるが、あなたの注意を濫用しない高品質のニュース」のほうがはるかに優れている。
▽394 恐れる必要があるのは（ロボットとの戦争ではなく）、アルゴリズムによって力を与えられた少数の超人エリート層と、力を奪われたホモ・サピエンスからなる巨大な下層階級との争いだ。
▽403 オルダス・ハスクリー「すばらしい新世界」は1931年。戦争も飢餓も疫病もなく、平和と繁栄と健康を享受する未来社会を想像した。科学は人間のアルゴリズムをハッキングでき、それからテクノロジーを使えば操作できるというのが、この本の基盤をなす前提だ。
この新世界では、世界政府が先進的なバイオテクノロジーとソーシャル・エンジニアリングを使い、だれもが常に満足し，だれひとり反抗する理由を持たないようにしている。
……ハスクリーの非凡さは、恐れと暴力ではなく愛と快感をとおしてのほうが、人をはるかに確実に制御できることを示した点にある。
▽423 超知能を持つ機械や、人工的につくられた体、気味が悪いほどの精度で人の情動を操作できるアルゴリズム、人間が引き起こす気候の急速な大変動、10年ごとに職業を変える必要性といった、かつてだれもであったためしのない事物や事態に、個々の人間も人類全体も対処せざるをえない場合が増えていく。……膨大な量の情報の洪水に見舞われ、全部を吸収して分析することなど逆立ちしてもできないというときに、いったいどう振る舞うべきなのか……
▽427 私たちは、人間がハッキングされる時代に生きている。……今この瞬間も、さまざまなアルゴリズムがあなたをじっと眺めている。……あなた以上にあなたのことを知るようになった日には、これらのアルゴリズムはあなたを支配したり操作したりできるだろう。
▽447 優れた物語は、私に役割を与えなければならないし、私の視野の外まで延びていかなければならないものの、真実である必要はない。物語は、純粋な虚構でありながら、それでも私にアイデンティティーを提供し、自分の人生には意味があると感じさせることができる。
▽453 儀式 もし人生の究極の真実を知りたければ、さまざまな儀式は巨大な障害となる。だが孔子のように、もし社会の安定と調和に関心があるのなら、真実は不都合なことが多いのに対して、さまざまな儀式はおおいに役立つ。
▽474 自由主義の物語を信じる人は、創造せよ、自由のために戦え、という二つの戒律に照らされて生きる。
▽480
▽489 政治家が、犠牲・永遠・純粋・救済、という言葉を使うのを耳にしたら、警鐘を鳴らそう。
……もしこの世界や人生の意味や自分自身のアイデンティティについての真実を知りたければ、まず悲しみに注意を向け、それが何かを調べるのにかぎる。その答えは物語ではない。（物語、への警鐘と疑問〓）
▽493 誕生から死まで持続するものなどあるのだろうか。体も脳も心も……この一瞬から次の一瞬にさえ持続するものなどないことがはっきりする。それでは、いったい何が人生をひとつにまとめているのか？ それを発見したときにはじめて、死にまつわる大きな疑問の答えも明らかになるのだ。
▽495 瞑想 自分の苦しみのもっとも深い源泉は自分自身の心のパターンにある。……なにかを望み、それが実現しなかったとき、私の心は苦しみを生みだすことで反応する。……私は毎日少なくとも2時間、（瞑想で）現実をありのままに観察するが……
……問題の解決には団結する必要がある。……もし本当に気にかけていることがあれば、それに関連した組織に加わることだ。
▽504 ナイフが、核ミサイルに進化すると、社会秩序を乱すのは、前より危険になった。洞窟壁画がテレビ放送に進化すると、人々を騙すのが簡単になった。近い将来、アルゴリズムがこの家庭の仕上げをし、人びとが自分自身についての現実を観察するのをほぼ不可能にするかもしれない。
▽511 「人間の力は集団の協力を拠り所としており、集団の協力は集団のアイデンティティの基礎も虚構の物語であって、科学的事実ではなく、経済的な必要性でさえない」
だが「個人のアイデンティティや社会制度がいったん物語の上に築かれると、その物語を疑う行為は想像を絶するものになる。それは、その物語を裏づける証拠があるからではなく、物語が崩れたら、個人と社会の激動が引き起こされるからだ」
▽514 気候変動による生態系の崩壊を、技術的破壊や核戦争とならんで「人間の文明の将来を脅かすほど深刻」な難題ととらえ……
コメント