松田語録：LLMの「病気」？
さて松先生何のお話でしょうかえこれ別枠 で話したんやけどまもう1回言えばですね あの数日前にチャットGPT使ってた時に なんかわけのわからんへんとあはいはい ありましたねうんが帰ってきたとあ トラブルはいうんで次に全く返答しなく なってしまったとだから社内からまあの アンソロピックのクロード使ってた しばらくねでででその日のあの終わり ぐらいになって使ってはい使えるように なったとねでその時に私はだからこれ ひょっとしてハされたんじゃないかて言っ たわけですやほんならあえ小林さんかな そんなニュースは出てないよって おっしゃったわけですねところはね ニュース出てきてんおああでそれねハック じゃなくてねそれ同じ経験をね外国の人が やってんのよ ああでチャットGPTがね気があ 3.5うんいや3.5いやごめんなさい気 が来るたじゃないかってで言われてて なんかね急にねスペイン語を言い出したり してお ああでな一時的な現象らしいんですわうん うんうんでオープンAもねようわからん けど調べてみてまあま治ったんだけどね 時々ね訳が分からなくなるとだから僕は ハックじゃないかと思ったんだけどそう じゃなくてどうもなんか時々変になるよう ですねうん ああすごいですねなんか面白い現象ですね ちょっとあの他も観測されるようだったら オープンAIだけじゃないかもしれない ですよねLL シええ特徴としてそんな時々変なことに なると いう全く関係ないこと言う全く関係ない こと言うんのよえ何を言っても全く関係 ないことばっかり返してくるっていうこれ 病気の一種じゃないですねに非常に繋がる と人間もそうですよねなんか春急戦が だんだん発狂したったみたいなああいう 感じがしますよねうんだからアルゴリズム にもイントリンジックなバグというか血管 があったとかだったら面白いなと思っちゃ ですけどねリズムなんですかねま今の時点 ではあの分からないですけども現象自体も ちょっとねあのちゃんとでもそれだから あるタイミングでなんかやった人が気が ついたってことですごくこう窓が狭いわけ ですねうんうんうんつみんながバーっと おかしいぞおかしいぞって大騒ぎしたわけ じゃなくてたまたまそのタイミングで使っ た人だけが気がついたっていうのが何人か が気がついてたってことですねうんうん
うんうん松田先生大変貴重なご経験を なさええええできればその他の方もそう いうことがもしあればちょっとログを残し といていただいてうんみコメント共すれば うんTwitterできましょうみたいな ちょっとLのなんかえ登場ということで 今後のあれですねあの発展に寄与すること ができるかもしれませんこういうだ全体的 なね特徴をちゃんと見つけ出すことが できれば そのあれですよねなんて言うんですか llmの病気みたいな形で今後のに医学 みたいな感じです ねますよねきっとねせぬような情が起こる みたいなことはね人間に 近い頭脳になってくでユーザーをこう アイデンティファイしていてあのもう指定 してその今回の場合例えば松田先生限定で そういうものをですね返してきてたとし たら意図的にですねこいつ気にらで変な こと言って やろいやいやそうかあのあれですよきっと 意識を持ち出したみたいな近いかもしそう だったのかちたで相手を見てあまりにも変 なことばっかり言ってくるセラ王さんには ちょっと仕返ししてやれみたいなそうそう そうコ使いやがってよばっかさせやがって と かシンギュラリティサロ見てるわけですね じゃえまま皆さん方もよくそういうことが あるっていうことをえた上で今後ね報告し てくださいええええいやあ多分ログを ちゃんと残しておくとでそれを共有すると あそうですようんそれ貼っちゃえば面白い ですねええちょっとジテがこんなこと言っ たぞみたいなそうそうかログを残しとくか それはね忘れてたな僕ちょっと怒ってた から何を言うんだってそうえええさらし ちゃうのが面白いすねやっぱりねはい じゃあとりあえず話はそういうことで
収録日：2024年3月3日
シンギュラリティサロン主宰の松田卓也神戸大学名誉教授の健康や学習に関連する日ごろのお考えを皆さんにお伝えします。今回は前回のLLMの調子が突然悪くなるという現象に関する第二弾です。
前回の動画はこちら
松田語録：ChatGPTの不調について〜ハッキングかも？
出演：齊藤元章氏 実業家、元PEZYグループ代表
松田卓也 シンギュラリティサロン主宰・神戸大学名誉教授
塚本昌彦 神戸大学教授
小林秀章 セーラー服おじさん
保田充彦 XOOMS代表
企画・運営：シンギュラリティサロン(https://singularity.jp/)
9 Comments
僕は経験してないのですけど、多言語学習者にも似た症例があったりするのかな？みたいなのが気になりました。
LLMの問題ではなく、LLMの出力を表示するユーザーを取り違えた等のシステム面でのトラブルの可能性もあるのかなと感じました。
マイナーな調整・アップデートがたまたま正しく機能しない事例にあたったのではないでしょうか？
学習（経験）して記録（記憶）定着させる過程で、情報処理半ばの（睡眠中に海馬を通過させ）、LLMの見る夢？の領域が現象してしまったという感じでしょうか？
このところアップされた動画で、齊藤先生の人間脳を基にして説明されるお話が、非常に印象的です。
意識研で小林先生が意識の定義を問われていましたが、ここでもLLMにHAL9000の様な意識の芽生えを冗談にされました。以前に書きましたが「働きと実体（本質ウーシア）」「作用と存在」を区別すれば、意識は明らかに働き・作用について言われているものだと思います。実体や存在を探求すれば、人間の「魂」の探求と同じ議論になると思います。
哲学的ゾンビは、人間の場合にも、イージー・プロブレムで分析する限りは妥当してしまうと思います。卵精子、受精卵、着床、・・・・、どこから意識が発生するのか？脳死では意識が無いのか？意識は作用の現象に対して、そう呼んでいるのだと思います。中世哲学迄は、魂（＝質料としての身体を受けることで完成した人間になる形相）という実体の働きの能力として、感覚・知性認識と自由意志を、「神の似姿」としての人間の定義にしていました。意識・無意識は、フロイトやユングの精神分析論以降に論じられたのではないでしょうか？中世までなら、共に認識作用内の現象だと思いますが、違うでしょうか？
要は、意識と呼んでいるのは現象学では志向性で、フッサールでも時間を内的時間意識の問題として扱っていると思います。そうした「働き・作用」が何処に在るかを問うても無駄な気がします。生命にしても同じで、構成元素を反応させて、アミノ酸の合成ができても、発生させられない状況です。最近は脂質から細胞膜発生の現象が研究されているようですが・・。
トマスは、上の魂が質料的条件が整ったところ（胚胎）に形相が（純粋現実態＝存在そのものから存在を与えられ、その存在を質料に伝達するようにして）入ってくることが、人間の誕生と言っています。ここでの議論では、意識作用の発生と言えます。質料的条件が整うとは、自然現象では「相転移」が発生するという表現になると思います。
哲学的ゾンビを考える上の例の様に、卵精子、受精・・・、脳死、生命活動停止、といった人間現象の過程上に、意識作用を認める領域を設定することが、意識の定義になる気がします。
そうすると同様に、AIについても、その働き・作用を、その定義に即すか否かを観ることになるのではないでしょうか？
最近、私がいるSNS(Twitter/Xではないやつ)ではElon Musk vs OpenAIの訴訟とか反論とかの話がやたらに流れてくる。ClosedAIに改名しろ、みたいのもの。
質問をして回答がきて、リセットしないでそのまま全く別の質問をしたら意味不明な回答してきたことはあった。
スーザン・カルヴィン先生の出番
この話とは違うかもしれませんが…。
昨日あたりからブラウザのChatGPT UIからチャットが送信できない不具合が起きていますが、
APIを叩いたりPlaygroundを使うと問題ないのでフロントエンド側の問題のように感じます。
少し調べた限りでは、どうもCDNを使って配信されているOSSライブラリでエラーが発生する
ようで、このあたりををググったら関連する不具合を報告するバグチケットがgithubでオープン
になっていました。
人間でも、英語で何年も生活していて、急に日本に帰ってきて日本語で話しかけられても、英語で答えてしまう、ということはあります。人間の場合も「意味空間」で考えているので、自分が今「何語」で話しているか、関係なくなっているために起こる現象だと思ってました。それと似ているとすると、人間的な現象かも？（いやいや）