松田語録：ビッグヒストリーと知能爆発
収録日：2024年8月10日
シンギュラリティサロン主宰の松田卓也神戸大学名誉教授の健康や学習に関連する日ごろのお考えを皆さんにお伝えします。今回はイアン・モリス氏によるディープヒストリーについて。
参考動画
Does deep history say we’re headed for an intelligence explosion? | Ian Morris
80,000 Hours
出演：松田卓也 シンギュラリティサロン主宰・神戸大学名誉教授
塚本昌彦 神戸大学教授
保田充彦 XOOMS代表
企画・運営：シンギュラリティサロン(https://singularity.jp/)
16 Comments
サマリー
本文は、歴史家のIan Morrisについて述べたものです。Morrisは、人類史の全体像を理解することの重要性を指摘し、技術の発展と人類の未来について議論しています。特に、人工知能の発展が引き起こす可能性のある大規模な変革について、楽観的な見方と悲観的な見方の両方を示しています。
キーポイント
Ian Morrisは、歴史全体を俯瞰することの重要性を説いている
人工知能の発展が引き起こす可能性のある大変革について議論している
楽観的な見方では技術的ユートピア、悲観的な見方では人類の絶滅を予想
現状維持の可能性も示唆している
人間とAIの融合による「トランスヒューマン」の可能性にも言及している
AIのアラインメント問題(人間の価値観と整合性を保つこと)の重要性を指摘している
アラインメントにも使われている直交仮説についてはどのようにお考えでしょうか？
知能の高低と道徳規範は全く相関しないという説についてです。人間にも極めて邪悪で知能の高い人物というのはごまんといます。
超知能を使って人類をどのように治めるかという議論は、次世代のツールや新たに考案された投票システムを使うにせよ結局人類が決めなければならないということです。
もうこのチャンネルでの議論に聞き慣れた自分からすればいつものお話なので驚くことではありませんが、動物園論はごく一部の個人の倫理観に従って人類を支配するための手段としてAIを用いている物語にしか聞こえませんし、習主席やプーチン大統領と同類です。
それが東浩紀氏が言うような、テック系の人が全体主義に傾倒していてまた人類が同じことを繰り返しているという指摘です。
この繰り返し系の話は結構面白くて、シンギュラリタリアンが「今までの進化曲線の延長」をもとに外挿的に未来を予測し、文系的な発想では宇宙的規模の大きな流れはつかめないんだなぁと言い、
このチャンネルで言う人間中心主義（本来の意味とは違いますが）の人たちが「歴史から学ぶべき人類の性質」をもとに周期的に未来を予測し、テック系の発想では人類の普遍的な性質を理解できないんだなぁと言う。
つまり互いに互いの立場のことを「今までのパターンを元にして単純に未来予測をしている人たちだ」と揶揄し合っている状況です。
東氏と仲の良い理系のエンジニア兼経営者の清水亮氏や鈴木健氏はそういう点において彼と意見を同一にしています。
ちなみにSF好きの東氏はテクノロジーによって人が人でなくなる時代は来るだろうがそれを考えることには責任のある議論としての価値はなくSFを考える楽しみというくらいの価値しかないし、外挿的発想は前世紀に一度敗北していることを人々は忘れているということでした。
またカーツワイルに対する典型的な反論にもあるように、化石にしろ人類の歴史にしろ、現在に近いほど記録が鮮明に残っているのだから、現在に近いほどインパクトのある出来事が頻繁に起こっているように見えるのは当然の錯覚という可能性もあると思います（進化の途中の状態も詳らかに残っていることは太古の動物ほど稀）。60年台によくあった「その時点での変化をそのまま延長して未来を予測する」というやり方は外れるものであるという反省が現代に活かされていないというのも問題です。
人類社会がどのようになろうと自分には関係ないし宇宙にも関係ないという巨視的な立場もたしかに存在するとは思います。
もちろんそういう点では松田先生は現代においては人類の敵のような立ち位置なのでしょう。
10～20年でトランスヒューマンというのもかなり厳しそうに感じますね。現状脳についてわかっていないことが多すぎるし、超知能AIが居たとしても研究開発の多くの部分は生身の人間が物理的に頑張る必要がありそう。
百年～数百年レベルの話になりそうですがいつかは実現できるとは思います。
戦争って、多様性の社会になればなるほど起きやすいから、今後AIはどのように制御するのかが謎。 仮想現実に入り浸るようになればリアルな人との関りも減って、よりカスタマイズされた自分好みの情報に触れ、それに染まり、人ひとりの個性が発揮され、多様になった時、自分と違う価値観や考えの人との接触がより難しくなりそう。
戦争がダメなら、人との接触は戦争を起こさない人格者だけで、後は仮想世界で楽しめみたいになるのかな？リアルな人と関われる人だけが勝ち組みたいになるのかな？
超知能と融合した人間の中には、人間に対し冷徹な目を向ける人も多い様な気がする。
結局は、アライメントがトランスヒューマンの思想を決めるような気がする。
そういう意味では、ASIは唯一ではなく、元々の文化圏によって多様なものになるのでは（イスラムが典型）。
私の未来予想は、文明は崩壊すると思います。
ターミネーター的に滅ぼされるのではありません。
AI は人類に最適化しようと進化を続けると我々はAI が作った動画を観て、音楽を聴いて、記事を読んで、会話します。人間と話すより快適で安全で効率的なので、もう人と接することは殆どなくなります。
自然と文明は崩壊します。
次の支配者がトランスヒューマンでもポストヒューマンでも、自分より知能の劣った旧人類をどう扱うかという点では同じ結論に至りそう。歴史的には人類と原人の関係をみれば、生活領域や利用資源の競合があることから知能の劣った側の原人は絶滅させられたわけだよね。それと同じ結論に至る気がするなぁ。トランスヒューマンやASIとしてはさらに知能を上げて進化したいと考えるだろうし、自分がもっと賢くなりたいときに、資源を浪費して足を引っ張る旧人類を存続させておくことにどれほどの価値を見いだすだろうか。
超知能にとっての人間ペット・家畜化というのも問題は発生すると思います。現在の「人間社会」でペット・家畜にまつわる問題が、「動物」である限り、発生すると思います。去勢して生存数を、生存環境に適した数にする（中国の「一人っ子政策」の様な産児制限が、地球全体のデータから厳密化したシミュレーションで示される）とか、食糧も栄養管理した上で嗜好を考慮した物（ペット・フードの様に）を提供するとか・・。「ペットは家族の一員」という価値判断をアライメントに組み込んで、可能な共存を図ろうとする予測はできますが、野良や野生も発生し、「管理」に反抗する個体群（娯楽SF映画の様に）も出てくる気がします。
このところのコメントの繰り返しになりますが、リサ・ランドールの言う様なスケーリングで宇宙自然の「ビッグ・ヒストリー」を、松田先生は示されると思うのですが、そうであれば始源から終末までの宇宙史の底流を、先ず示すことになる気がします。そこに流れるのは、「エネルギー」が熱力学的エントロピー増大の方向を示し、その表裏現象で、ネゲントロピーの自己組織化で「情報」生成する方向を示している流れであるということではないでしょうか？ただ原初のエネルギーは超圧縮された情報であり、それが爆発・発散していく過程で離散的に情報を要素単位閉鎖組織（閉じた系）にしていくというのが、まさに表裏現象なのではないかと思います。
そうした過程で、無数の中間システム（閉じた系）が展開し、それの相互作用が、カルロ・ロヴェッリの言う様な（量子に始まる）関係論―彼はナーガルジュナの『中論』にヒントを得たとしますがーで示されるのではないかという気がします。この無数の中間システムを観る観点が、マービン・ミンスキーの言う様なフレーム・ワークで示されると思います。
そしてそうしたフレーム・ワークで無数の中間システムが読み解かれて諸学も展開していますが、それら無数の情報を、先ず「情報プール」とし、それを「全体像（外延）」として眺め、その「要素（内包）」を単位化して比較する（rational)作用が、発生したという、自然則を再現し検証しているのが、AI研究なのだろうと思います。現代に至るまでは、この再現検証が技術的にできなかったので、自然神学や哲学が思考実験をしてきたと思います。
また長くなりましたが、こうした歴史過程で、現在、徐々に分ってきたことの重要な現象は、「伝達関係網コミュニケーション・ネットワーク」の作用だと思います。
結局、宇宙創成の物理現象から、生命現象、知性現象の全現象相・層に、その作用が認められることが分かってきました。そしてそれが宇宙自然の「情報展開過程」の底流にあることが、理解されてきたのではないか、と思います。
今日の話は非常にSF的で「超知能（コンピューター）が人類を支配する」と言うのは昔からSFの大きなテーマで沢山の作品があります。古くは1950年代からアイザック・アシモフの「ロボットもの」等で、「優しく支配する。見守る母親の様な存在に成る」と言うのも良くあるテーマです。そしてその「母親の様な存在」に守られている人類が「甘やかされた子供」の様に堕落したり、「母親に反抗する」と言うのも、SFのポピュラーなテーマです。
私個人はエンジニアとして「技術進歩が社会の進歩（？）につながるのは長い時間がかかる」「人間の生物学的本質が変わるには数万年単位の時間がかかる」と言う考え方なので、現在のAIの急速な進歩を見てもシンギュラリティの様なドラスティックな変化が人間社会に起きるとは考えていません。「今日は昨日の続きであり、明日は今日の続き」と言う現実的（？）な人間です。
そう考える大きな点は現在のAI進化があくまで「言葉」や「画像」「音声」等のデジタル情報の処理のみで現実世界に進出出来ていないからです。具体的には要するにロボットで現在のロボットはとても人間並み（以上？）に現実世界で行動できていません。もちろんこれは現在AI研究の大きな目標で世界中で研究開発が行われている訳ですが、未だに本質的な技術ブレークは起きていませんし、起きる気配も無い（？）と思います。いわゆる「物理エンジン」とか「デジタルツイン」とか色々言われていますが、それらが本当に効果を発揮して、我々の住む現実世界でロボットが人間並みに（鉄腕アトムの様に）行動するのを見るまでは、如何にAIが情報処理で賢くなっても人間社会が大きく変わるとは思えません。
人間は文明の初めから「石を削り」「弓矢を作り」「衣服を編み」「火を使い」「青銅や鉄を武器にし」してきました。そして「蒸気機関」から「内燃エンジン」そして「電気」に依って現代文明を作り上げました。「核エネルギー」はまだ本当には使いこなせていませんが（？） その過程で人間社会は本質的に変わったでしょうか？ もちろん見方に依るのですが本質的な人間、人間社会は変わってはいないと思います。だから1000年以上前に書かれた「源氏物語」が今でも読み継がれているのでしょう。2045年にシンギュラリティが実現したとしても、人は人を愛し、憎み、助け合い、傷つけあって殺人も戦争も無くなってはいないでしょう。スタートレックは23世紀以降ですが今の人間同様愛したり、憎んだり戦争もやってますが、あれはかなり本質を突いていると思います。
「人間が作り使って来た多くの有用な技術の一つとしてAIが使われるだろう」と言うのが私個人の予想です。まあ健康なら2045年は見られそうなので楽しみです！
私も先生が言うAIが人間の縁の下になって社会に浸透することを希望します。そして人類が自ら家畜化の方向に進んで来た事からも、放牧のたとえもあり得る気もします。ただ、一部の支配層や富裕層はそれを良しとするでしょうか？支配層は自らも無気力化される可能性のある社会システムを受け入れるでしょうか？すべての人が温かい食事と快適な衣服と棲家を得られるでしょうか？限られた資源を総花的に分配するには、カースト制のようにグループに分けて統治する可能性がある気もします。グループの頂点は、アメリカか中国か、それらが手をとり合った支配層か？最終的に人類は絶滅せず、グループの底辺から人口調整されるような痛ましいSFのような世界を想像してしまいました。おそらくアライメントの主体が重要であるが、その解を出すには私の中でまだ言語化出来ていないジレンマがある気がしてます。こんな感じでボケーっと思考する喜びをくださったこの動画に感謝します。
もし超知能ができて、人間の欲求がさらに満たされると、子供を作って苦労するよりも、AIに面倒を見てもらって楽をしたい人が増え、人類は衰退するのだと思います。だとしても、新たな知性を世に放つことができたことを喜ぶべきなのだと思います。ただ、人間が微生物と共生しないと食べ物を消化することさえできないように、超知能が情報を消化するために、人間の多様性を必要とするようになる未来には期待したいと思います。
歴史全体を俯瞰すると、発達/発展が加速しているのと同時に、リスクも加速している。
つまり世界の危うさも増している。超知能がそれを制御できるかが重要。
でなければ、超知能を含む世界全体の破滅が早まるでしょう。
超知能でも、自然法則や進化法則に勝つことはできない。
まさか自分自身が生きてる時代に超知能などを語れるとは考えてもいませんでしたが、超知能時代に突入することはすなわち自分自身が神だったのでは？という問いかけに対しての明確な証明な気がします。
LatticeとASIでもコメント致しました通り、私はASIの望ましい形での登場は「我々にアラインされていない自然から我々にアラインされた自然へと住環境が変化していく」ということだと思っているので、14分付近からのお話には非常に共感しました。
一方で、善悪に関するところについては思うところもあり、一口に「犯罪」と言っても、例えば同性愛を認める国もあれば犯罪とする国もあったり、国やコミュニティの中でもルールに賛同する人もいればそうでない人もいたりと一概には言えない現状があります。善の反対は悪ではなく、また別の善であり、そこが「アラインメント」を難しくしているというのは私も常々思うところです。
ですので、私は「一人一人がそれぞれにとって望ましい世界で生き、他の誰かと共有できる世界もある」という形で仮想世界（もちろん現実と変わらないクオリティの完全没入型）を作っていくのが最も望ましいのではないかと思っています。
例えば、世界にAさん、Bさん、Cさんの3人がいたとすると、Aさんにとって望ましい宇宙、Bさんにとって〜、Cさんにとって〜の3つの小宇宙、さらにその一段上に、AさんとBさんが相容れる小宇宙、BさんとCさんが〜、CさんとAさんが〜の3つ、そして最上段に全員が相容れる宇宙（後述しますが、これがおそらく今我々が暮らす物理宇宙を最適化したもの）と、階層化された7つの（小）宇宙で構成される形にすると良いのではないかなと思います。個々にとっての楽園だけでは、皆さん寂しいでしょうし。^^
ＡＤＨＤはドーパミンが出にくいから快楽を感じ難くて
その影響で過度に一つの物事に取り組む特徴があるとバイエンスでやってたんだけど
これって特徴であって良し悪しではないんだよね。
人が超知能の手に入れた時、さらなる探求を目指すのか、脳を改造して安い快楽に浸るのか
１００年後の未来は「健常者」と呼ばれる無気力な猿であふれるかもね
無学な人間の単純な疑問で申し訳ないのですが・・・
カルト集団やテロ組織や独裁国家などが、金銭や脅迫によって優秀なAI開発者を多数確保し、安全性も倫理観も無視した独自のAIを作らせたとしたら怖くないですか？
たとえば医療の分野などでも安全性や倫理観を無視すればとんでもない速度で技術開発ができますが、同じことがAIにも言えませんか？
そうなればマトモなAIでは太刀打ちできないような最強のAIが誕生しませんか？
核兵器などより遥かに短期間に、秘密裏に、低予算でに作れると思うんですけど・・・
みなさん怖くないんですか？