松田語録：束とASI〜ASIとはどのようなものか？
収録日：2024年8月1日
シンギュラリティサロン主宰の松田卓也神戸大学名誉教授の健康や学習に関連する日ごろのお考えを皆さんにお伝えします。今回は束とASIというお話です。
出演：松田卓也 シンギュラリティサロン主宰・神戸大学名誉教授
塚本昌彦 神戸大学教授
保田充彦 XOOMS代表
企画・運営：シンギュラリティサロン(https://singularity.jp/)
Actress 女優
10 Comments
IQって脳が特徴量をいかに抽出できるかっていう問題だと思っていました
人間が作り出す娯楽自体に人間自体飽きがきてるでしょう。😂asiの発展は必然です。
孫社長の言うように人間と金魚ならなんか人間って水槽で楽しそうに泳いでるなって感覚になるのかな🤔
ASIがいつどのような形で達成されるのか分かりませんが
色んな事態を想定しつつも、今はひとまずAGIを目指して頑張ってほしいなと思います
塚本先生がASIの出す結果から想像したり、要約でどうにかと話してた所はなんだか共感を覚えました
禅問答のように、何を言ってるのか分かるようで分からない感じかもしれません
人間では思いつかないようなアッと驚くようなわかりやすい喩えや説明方法を思いつくのも知能なんだから、ASIはどんな難しいことでも人間にわかりやすく説明できるんじゃないですか？
人間の知能にマッチした説明をできないようなレベルの知能はASIではないと思います。
科学の最先端を切り開く人はあまり素人向けの説明が上手くない一方で、それを一般人向けに説明することだけが異様に上手い人っていますよね。要は聴衆に「なるほど！」と思わせられればいいわけですから、その説明では本当の理解には至らないんだと最先端の研究者が言ったところで無駄です。納得させる、腹落ちさせるのが上手い人の隣に、正確だけど何を言っているのかわからないような説明をするトップクラスの研究者がいたとしても、人々はそれを説明が上手い人だとはみなしません。
松田先生の理解の定義に則れば、どっちみち人間には未来のAIが切り開く高度な科学は「理解」できないのだから、「納得」させる能力を上げるしかない。そしてASIは人間に納得させるための説明力が極めて高いと思われます。
イーロン・マスクは「ニューラリンクでアップグレードしない限り、AIは人間に比べて思考が速くなり、人間とコミュニケーションをとるのは木と話すようなものになり、AIは飽きてしまうだろう」と言っていますね。
非常に面白いお話でした。参考になりました。
人の知能なんて大したことないのはまさにその通りと思います。ASIの事も理解できないでしょう。であれば、ASIの脅威からどう人を守るかよりも、どういう素晴らしいASIを送り出すかを考えた方が種としては正しいのかもしれません。
例えば、素数を求めるゲームをしたとしてASIが作り出した素数を人は素数かどうか判断することはできます。しかし、ASIが毎回異なる方法で素数を導き出したとしたら、作り方を聞いても毎回違うのでどうやって作っているのか理解できないでしょう。この様に人は何度も使える再現性が高い知識を有用として理解してきましたが、そうでないたまにしか使えない知識(例えば奇跡の起こし方の様な)はあまり獲得していません。そういうところもASIなら扱うことができ、新しい知能のカテゴリを作れるかもしれません。
なお、個人的には進化の仕組みを解き明かすASIを作りたいですね。自ら進化してもらうためにも。
今日二羽のカラスが互いに鳴いてるのをみてたりすると、個体知ではなく、集団知みたいなものも生物間では、気づいてなかっただけであるのかぁと思いました。
人だと国家集団知みたいになるかとは思いますが、現代のモノの基準が、スカラー、ベクトルだとしたら
ASI等の超知能なら、ベクトル以上の基準値を認識出来きて、それも数百、数万レベルなのかな？
なんて考えました。
先ず松田先生が「神」と表現されたものを「全知全能」と換言されたことに感謝いたします。人間的認識の投影personificationで呼ぶ「神」ではなく、古代からのエネルゲイア自体、完全（純粋）現実態actus purusを限界概念として肯定表現した、「全知全能」「絶対者」「無限者」も使われてきました。否定神学は、限界の向こうだということで「（何々で）無い」という羅列をこちら側の認識を使って表現しました。「神」を使うと、例の「ユダヤ・キリスト教の一神論」という歴史認識に、無用な関連をしていってしまいますので、本当は避けたいところです。ただ厄介なのは以下の議論で、トマスも「神Deus」と、純粋現実態を表現していますので、結局、「神」と記述してしまうわけですが・・・。人間的歴史上の「神」ではなく「全知全能」のエネルゲイアを、慣習的・便宜的に「神」の記号的表象で扱っておく、ということでいいでしょうか？一言足すと「歴史神学」でなく、より古くから普遍的にある「自然神学」の「神」であると思います。
さて今回のお話ですが、トマス・アクィナスの「神の知」「天使」論の論議が、現代的になったという感が非常につよいです。また、塚本先生と松田先生・保田先生、両者の見地の対比に「個と普遍」との問題を見て取ることができると思いました。
無数の現象に対する「機能」としての捉えかたのひとつが「知能」だと思います。それはもともとは現象で多次元ですから序列はないですが、人間はある方向に射影して捉える癖がある。例えば、サム・アルトマンによる知能の経済的側面への注目は、知能の一つの「射影」あるいは「定義」と見なすことができると思います。このような定義は、特定の文脈において有用であるがゆえに採用され、時として普遍的な真理のように扱われる。ある定義が特定の目的や状況で有用であると認識されると、その捉え方が固定化される。これは有用性と認識の相互作用の結果とでもいうものかもしれません。
僕は優秀な人間が何を言っているのか理解できないことは普通だと思うのでASIが何を言っているのか理解できなくても気になりません。
それより、人間が理解できるような理論やテクノロジーはシンギュラリティの定義に反するので、ASIが最も賢い人間にも理解できない理論を思い付くようになるのはシンギュラリティの定義上、必須でしょう。
ASIが何をやっているのか全く分からなくなって人間の頭では未来を想像できなくなることがシンギュラリティの定義なのですから。
それから、様々な知能が存在するという松田先生の話についてですが、僕は最も実効的な知能というものを定義できると思う。
それは自分よりも優れた知能を持つ機械を作り出すような機械を作り出す知能です。
だから最も優れた知能はやはり、電子工学やコンピュータサイエンス、数学など、一般的に知能と考えられているような領域の知能が最も実効的な知能だということです。
そのような知能は、知能爆発を起こすような機械つまりAGIを作りますので、再帰的な過程によって爆発的な結果をもたらします。
これは自動車を作ったり、高いところから回転して着地したりするための知能とは非常に異なる指数関数的な結果を生み出します。
僕は優れた知能、重要な知能とは知能爆発起こす知能であると明確に定義したいです。
それ以外の知能は些末な知能です。