松田語録：Geminiの失敗〜多様性配慮のやりすぎ？
さてAIが偉いことになってるっていう話 続きですえでま前も申しました今最近で 大きなニュースがジェミにプロ1.5と うん空の話でま空の話はすでにやったんで 全にプロ1.5の話はしますがえああれ いろんなことができるんだけど画像生成が できるわけですよねああはあはいはいはい この画像生成がね最近ねあのあの Googleがね中止にしたんよああ はははました不適切な絵が出てくるんだ けどねあこの不適切というのがね逆の意味 で不適切ね普通ね不適切と言うとま例えば ねヌードが出てくるとかねあるいはま バイオレントが出てくるとかいうこと でしょそれとは逆なんやつまりねどんな ことかってたら例えばポープポープって法 ねうん法王の絵を書いてくれっち言ったら ね黒人の法が出てくるんやああからうん こんなんがあってねスウェーデンの王室の 人々のねあのえあの昔のスウェーデンの 王室の人々の顔を出してくれっちゅったら ねそのスウェーデンの王妃とか王あの王が ね黒人だったり中国人だったりするのあ からねバイキングの絵を出してくれっち 言ったらこのバイキングが黒人なあああで つまりどういうことかっち言ったらね白人 を出さないのよ ああこれ逆ね普通ねジス差別っていうのは ねつまり白人が優遇されて るってことでしょええまこれあの英語では 効果ジアてうねね効果ジアて果す効果効果 殺人かあまあの辺がオジだと思われてる からま効果ジアてねで効果ジアンが得して んだけど今はね逆にコカジアンを出さない とああだからね例えば ね黒人のファミリーの絵を出してくれっち 言ったらはって言って出してくるよああ はあはで白人のファミリーの絵を出して くれ言ったらそれはできませんって言って くうん ええでそれに対してですね白人側からの 反撃がああこれは逆差別じゃないかって ええお例えばデイビッドシャピロなんかが ね言ってんだけどねそれはレイシズム いわゆるね人種差別に反対するとねでもね こういうのを書いてくれと言うた時にねね 例えばポープの絵を書いてくれね法の絵を 書いてくれっち言った時に法って大体今 基本的に今まで家人白人じゃないですか はいところはそのねプロンプトをね 書き換えるんよああほ黒人の方を書いて くれという風に書き換えるあうんうんうん うんこれは生きすぎでしょうて うんという風そもそもそのね中世 ヨーロッパののね貴族の風景とか言った時
に黒人は入ってるのあですよねだ入って なかったからうんその歴史的なこの背景と か事実とかそういうものを踏まえてうん 書いてくれないということなんですそう そうそうそこをじまげるそうそうそうそう だからポリティカルコレクトネスに気を 使いすぎて逆方向へ触れすぎちゃったて いうことですねなるほどでねまたこういう 風まこれあのブログに書いてあったにそれ を誰が決めたかちゅううんうんねそれはね 例えばGoogleとかディープマインド ね全体で決定したわけじゃなくてそん中の 一分の人間が決めてるわけじゃないですか はあはあはあはあは多分ディープマインド のねポリティカルコレクトな人 があの決めてるとうんうんだからま逆の 意味でね少数の人間がねまこの世の中の 数正を決めてるっていうそれがいい方向か 悪い方向か別にしてね あというま大きな問題が発生してなるほど だ一旦やめたということなんですねいやだ から今そんなんばっかり出るからで反発が 激しいから止めてまたそえっと画像生成の 部分を止めたという感じそうそうそう そうそうそううん文章の方は大丈夫なん ですね今まだ止めるほどじゃない多分ねで もねこのところ文章もねあこれ前も申し ましたけどあのアンピなんかとちょっとね エッチなこととかちょっとバイオレントな こと書こうとするとねできません言うて くるよなるほどねああなんか笑えない 笑い話みたいな感じですなんかでもそれ今 の時代を表してる感じしますよねいや今の 時代けどね特にね欧米のというべきはああ あだってね日本とかいやそれ人種差別は 良くないけどさ日本ってとかま多分想像だ 中国とか韓国とかそんなにそのあの センシティブじゃないじゃないですかえ うんうんそれはねアメリカって国がねね 白人がおり黒人がおりインディアンがおり ヒスパニックがおりとでかつ白人がですね インディアンをね極端にった殺しまくって きた歴史があるわけじゃないですかうん うんはいはいま人種に関しては確かに日本 はねあんまりそういうあの歴史的なあれが ないんですけどでもなんか今世の中 コンプライアンスコンプライアンスって 言ってそうそうそう国とちちにいろんな こと言われますよその仕事しててもそう そうそうそうそう国のムードとしてね なんかテレビ番組でちょっと不適なこと やるとみんなで寄ってたかってバーっとき ますみたいな何も言えなくなってきます もんねそうそうそうそうそうそうでそれに 対して今こう不満を持ってる人は結構いる
んじゃないかなってうんうん思うますね うんうんあのあのドラマ知ってますあの不 適切にもほがあるそう今それ思い出して ましたはいってますねえ今流行ってるん ですか今流行ってるんですよかり感じの 話題なねそうそうあの1986年から今 現代にタイムスリップするってした主人公 うんいうのがまあ1986年だからもう 全然コンプライアンスとかない時代人が ここに今に来たらま不適切なことばっかり 言うわけですうんこんぐらいいいじゃんと 思って普通に言ってたらそれ全部NGだっ たみたいなそそうそうそうまそそれで いろんな騒動が巻き起こるみたいな話なん です結構でもすごく僕らの世代とか人気が あって今うんうんまに言いたいうん言って くれてるっていうな風に感じてるえ現行の ドラマなんですかそれはなん何の現行の今 現のドラマですはい今金曜日夜10時ああ そう面白そうですやってましたねぜひあと まだ4回目までやってますね今ええそう そうあのね私がニュースで見たのはその 今回の中心になったみたいな話でなんか 歴史的な人物のこの絵を書くと下手だと いうような話見たんですけどそれ同じ話な んでしょうかねもしかしてうんで下手じゃ なくてそれがあのさっき言った黒人になっ てしまうとあうんそうなんですかねじゃあ 同じ話なんでしょうかうんなねえま角の ヒューマンフィードバック あねほまもしかそそう今後どうなっていく んでしょうねちょっと一時的なものなのか こいやいや今後はやっぱここうなってね どっかに最終的に落ち着く落ち着くんだと 思いますけどね減水振動みたいなうんうん うんうん うんそのGoogleのサービスに関して はまもうちょっと適度なとこに落ち着いて また出てくるんでしょうかねそれは画像 先生やっぱりやらんといかんやろうから えええええでもこれね前も僕やってみて あのえっとチャットGPTであれ絵 かかせるじゃないかえダリスかえあれもね あのビーナスの出そうとしたらなかなかね 出なかったちゅうことがあるわけでああ そういうポリティカルな感じの配慮によっ てということですかねうんうんうんあそう ですかじゃ各社そうなんですねそうですよ ね各ちょっとかなりえ気をつけてるとうん で気つけすぎてるわけよ容者側から見た時 にはかなり不自由だという感じダリスとか あのセラきたおじさん書いてくれないです からね俺はいしいもん かって あ
はいはいさあこの話は こんな終わりです はい
収録日：2024年2月24日
シンギュラリティサロン主宰の松田卓也神戸大学名誉教授の健康や学習に関連する日ごろのお考えを皆さんにお伝えします。今回はGeminiの失敗について。
出演：松田卓也 シンギュラリティサロン主宰・神戸大学名誉教授
塚本昌彦 神戸大学教授
小林秀章 セーラー服おじさん
保田充彦 XOOMS代表
企画・運営：シンギュラリティサロン(https://singularity.jp/)
14 Comments
その手の話でディズニーがポリコレをやりすぎて作品が売れず株価暴落して経営陣が株主訴訟されそうで、更にフロリダ州と裁判になってますよね・・・逆にポリコレの影響が少ない日本のアニメに注目が上がっているとのこと。葬送のフリーレンをはじめとした日本のアニメが海外で人気に拍車がかかっているみたいですね
日本は人種的に多様性が無いとされますが、
多様性が無いことも、ある種の多様性だと考えております
行き過ぎた米国リベラリズムの病魔が生成AIにも及んで、それが結果的にGeAIの成長を阻んでいるんですね。
そういう意味からも、まだ日本のほうが生成AIを成長させる土壌として適してるかもしれません。
行き過ぎた左翼の弊害ですよね、違う意味で真実を捻じ曲げる潜在的なポリティカルハルシネーションですね。
企業のガバナンスがAIの品質そのものに響いてくるので、そこに注目するのも大事だと思います。自分が今気になるのはOpenAIです。
Adam D'Angelo はQuoraのトップでOpenAIとは利益相反の立場にあり、そのうえAltman退任票を投じたのに、唯一取締役会に居座っているのはなぜなのか？ ということです。思想もEA寄りなんですよね？ 泳がせているのでしょうか？
OpenAIの企業統治がどういう思想に基づいているのかわかりません。異分子が一人くらい混じっている方が健全だということなのでしょうか。
ふてほどは、年齢的にハマります。
GenieとかBitNetとかニュースが多すぎて追いついてない
シンギュラリティきたら1分ごとに新技術発表されるのかな
ちょっと前ですが、旧Bard（中身は多分すでにGeminiの時）にある漫画のあらすじを読ませようとしたらほんの少しの機微ワードでNG扱いになる事が多すぎて悪戦苦闘しました。これでは例のGemini1.5がいま目の前で使えるようになったとしても全く便利に使える気がしないですね。
5:50 ドラマ見てみたら面白かったですｗ
「言いたい事言えない」はマジョリティ理論で、これまでマイノリティが強いられてた状況を追体験学習してるに過ぎない。
「日本は寛容、差別なんてない」も、せめて同性婚認めてから言えって話で、マジョリティは差別してる自覚を持てない。挙句「逆差別だ」と被害者ムーブ。
結局科学的根拠よりも、単純な数の論理になる。最大多数の最大幸福の功利主義では、マイノリティは永遠に切り捨てられ続ける。
第一に、Geminiは失敗していないと思います。設計通りに作動しただけですよね。
第二に、開発主体(出資者)がエスタブリッシュメントのAIはどれもGeminiと同じでポリコレに毒されていると思います。
第三に、超知能ASIが全人類の記憶を操作する可能性があるので、インディペンデントのAIが非常に重要だと思います。
私はイーロンマスク氏が指揮を執り開発するXAIのGrokと、日本製LLMに期待しています。アメリカで開発されるAIの殆どは米リベラル・エスタブリッシュメントに属するgoogleやMSやMetaが開発していて、学習にバイアスがかかっているからです。イーロンマスク氏に買収される前のTwitterで、秘密の検閲が横行していたのと同じ事で、しかもずっと危険です。
政治的にバイアスのかかったAGIは、人類全体の記憶つまり歴史を改造してしまうリスクがある訳です。進撃の巨人で、エルディア人全員の記憶がすり替えられてしまったようにですね。私はそれこそがディストピアだと思います。ディストピアを避けるためには様々な”人格”を持つ複数のAGIがオルタナティブとして必要だと思います。性能はいずれ追い付くはず。
広い意味では、人類の記憶の操作は既に行われていますよね。googleで女性タレントを画像検索すると、上半身のポートレートばかり上位に出てきます。そうなるようにユーザーに秘密でフィルターがかけられているはずです。旧twitterも酷かった。2010年「法●功」「ウ●●ルの母」の検索結果が1件も出ない事で、私は秘密の検閲に気づきました。