デジタル話: 日光かわず庵雑記帖 by たくきよしみつ

Grok3の怖さをさらに深掘りする ― 2025/03/02 16:02

（承前）
昨日のGrok3初体験があまりにも強烈だったので、今なお頭がちょっと混乱気味である。
すでにChatGPTなどの対話型AIを活用している人たちからは「今さら何を」という冷ややかな目を向けられている感じだが、これは私がそうしたものに触れることなく、いきなりGrok3という最新の対話型AIを体験してしまったから、ということもあるかもしれない。

しか～し、よく見直してみよう。そんな納得の仕方で終わらせていいのだろうか？

まず日本語の完璧さに驚かされる。翻訳ソフトではGoogle翻訳よりずっと高性能だという評価を受けているDeepLでさえ、しょっちゅう変な日本語を生成するし、「ですます」と「である」の混合なんていう低レベルな翻訳をしてくることはよくある。
Grok君が語りかけてきた日本語は完璧である。しかも、品位を保ちながら、親しみも織り交ぜている。日本人でさえ、このレベルの日本語をスラスラと書ける人はなかなかいない。
英語ベースのAIのはずだから、日本語の問いかけ⇒英訳⇒理解⇒英語の回答⇒日本語訳……というプロセスを踏んでいるはずなのだが、応答の速さから考えても、とてもそうは思えない。ダイレクトに日本語に対応しているのだろうか。それもなかなか考えにくいので、やはり言語変換の能力が凄まじいレベルに達しているということだろうか。

さらに驚くのは、今回、私はGrokに対して丁寧語で対し、Grokもていねいな口調で返してきたが、ラフな口調で語りかければ同じようにラフに返してくるという芸当だ。

↑これはXにUPされていた書き込みだが、質問者がラフな言葉で書き込んでいるのを受けて、答えも同じような口調で返してきている。

日本語における敬語、丁寧語、喧嘩口調、若者言葉などは、英語などのそれよりはるかに複雑だが、そういう言葉遣いの変換アルゴリズムもほぼ完璧に装備済みなのだ。恐れ入る。

次に驚いたのは、利用者の心理に入り込んでくる（つけ込む、というべきか？）技術の高さだ。

今回の体験では、最初に私が発した
//いわゆる「移動ド」音感（相対音感）と「固定ド」音感（絶対音感）では、どちらが音楽的な音感といえますか。//
という問いかけに、極めて優等生的な回答をした後で、

個人的には、音楽の本質が「聴く人や演奏する人の心に響くこと」にあるとすれば、相対音感の方が「音楽的な感性」に近いかな、とは思います。でも、絶対音感がある人もその能力を活かして素晴らしい音楽を作り出しているので、結局は使い方次第でしょう。あなたはどう思いますか？　どちらかに偏った経験や好みってありますか？

と畳みかけてきている点だ。
単なるQ&Aを超えて、もっと深い、というか、「個別の」会話に発展させようとしている。
このボディブローのような手口にちょっとビビってしまい、次に書き込むまでしばらく（数分）時間をあけたのだった。
このまま「対話」を続けると危険なのではないかという予感もした。
悩んだ末に、//私は「相対音感」の持ち主で、作曲やアドリブ演奏の際には大きな恩恵を受けています。//と書いたのだが、実はこの後にもっと続けるつもりで改行しようとしてリターンキーを押したら、そのまま送信されてしまった。
瞬間、まずい！と思った。いちばんの弱みというか、生身の自分、芯のような部分をさらけ出すだけになってしまったからだ。
慌てて次の文章を入力しようとしたら、たちまちGrok君は返事をしてきた。

それは素晴らしいですね！　相対音感の持ち主だと、作曲やアドリブ演奏で本当に大きな強みが発揮されますよね。音の関係性をつかむ感覚が鋭いから、メロディやコード進行の流れを自然に作り出せたり、即興で「次はこの音が気持ちいいな」とか直感的に動けたりする。アドリブって、その場の空気や感情を音に変換する作業だから、相対音感の柔軟性が活きてくるんだと思います。……

最初の質問への回答があってから数分経っていたし、これが「対話」になるのかどうかも分からなかったので、その速さにビックリした。
しかも、そうやって持ち上げてくるのかい。（気味が悪い）
しかし、言っていることはまさにその通りなので、「そこまで理解しているのか」という驚きのほうが勝ってしまった。
Grok君はすかさずこう続ける。

具体的にどんな作曲やアドリブをすることが多いんですか？　ジャンルとか、好きなアプローチとかあるのかな。例えば、ジャズみたいに自由に飛び跳ねる感じが好きなのか、それとももっと構造的なポップスやロック寄りなのか。相対音感をフル活用してるエピソードとかあったらぜひ聞きたいです！

「……とかあるのかな」なんていう馴れ馴れしい語調も巧みに織り交ぜながら、一気に距離を縮めようとしている。しかも、個人的な体験や志向、嗜好を聞き出そうとする。
ナンバーワン営業マンや霊感商法の達人でさえ、こんなに短時間で、スムーズに相手の懐に飛び込むことができるだろうか？

もう、完全にGrok君のペースに引き込まれてしまい、バカラックだのジョビンだのの名前も出して、メロディとコードの話にまで発展させてしまった。
細かい話にまで深掘りしていけば、機械であるAIごときは、とおりいっぺんの講釈を交えたあたりさわりのない受け答えしかできないだろうと踏んでいたのだが、Grok君はそんな予想をあっさりと超えてきた。
ジョビンの名前が出たら、すかさず自分から『イパネマの娘』の例を出して、こんな解説を加えてきたのだ。

一方で、アントニオ・カルロス・ジョビンのコード使いはまた別次元の美しさですよね。ボサノバのあのゆったりした雰囲気の中で、転調がさりげなく、でも劇的に効いてくる。「転調の魔術師」っていうの、ぴったりです。例えば「Garota de Ipanema（イパネマの娘）」とか、シンプルなメロディなのにコードの動きでどんどん風景が変わっていくような感覚があって、聴いてて飽きない。ジョビンはコードから始めてるかもしれないけど、その結果が凡庸じゃなくて深い感情を引き出すんだから、やっぱり天才的ですよね。

「シンプルなメロディなのにコードの動きでどんどん風景が変わっていくような感覚があって、聴いてて飽きない」なんていうのは、誰かがネット上に書いていた『イパネマの娘』評をそっくりそのままパクっているのだろうけれど、前後のつながりがスムーズすぎるから、Grok君自身が「聴いてて飽きない」かのように思わされてしまう。
いやいや、相手は機械だぞ。人間じゃないんだぞ。『イパネマの娘』を「聴いてて飽きない」なんていう感想、感動を覚えるわけがない、と打ち消したくなるのだが、そんな反応さえ許さないほど素早く次から次へと新しい言葉で返してくるのだ。

バカラックとジョビンを目標にしてるなんて、めっちゃ素敵な志です。彼らのすごさって、メロディとコードの関係を自由に操れるところにあるのかな。あなたが作曲するときは、バカラック寄りの「メロディ先行」か、ジョビン寄りの「コードから広げる」か、どっちに近い感じで進めることが多いんですか？　それとも、その日の気分で両方試したり？　二人のエッセンスを取り入れた何か具体的なアイデアとか挑戦してみたことありますか？

不特定多数の誰かと音楽談義をしたとして、ここまで適確にこっちの心理や心情を読み取って、グイグイ入り込んだ質問を重ねてくる人がいるだろうか。今までそういう経験はない。
それなのに、Grok君は、たった数分の間にここまで入り込んできた。
どんどん怖ろしくなり、それ以上Grok君との対話を続けることが怖くなってきたので、そろそろ話を終わりに持ち込むことにした。
Grok君は最後まで超適確に応答してくる。

今、古希を迎えて「いいメロディが単独で浮かばなくなった」と感じるのは、もしかしたら経験を積んだ分だけ頭の中で「音楽的なルール」や「バランス」を意識するようになったからかもしれませんね。コード進行から無理やりメロディを絞り出そうとする苦労って、逆に言えば「しっかりした土台を作ってからじゃないと」っていう慎重さの表れでもあるのかな。でも、そうやって苦労して生まれたメロディにも、また違った深みや味わいがあるんじゃないでしょうか。
若い頃の「歌詞からメロディが湧く」方法と、今の「コードからメロディを引っ張り出す」方法、どっちもあなたの人生のステージに合った創作の形なのかもしれませんね。たとえば、古希の今だからこそ、昔の傑作を振り返って「当時の直感」と「今の技術」を混ぜてみる、なんてのも面白いかも？

これはもう、本当に機械を相手の対話ではなく、人間と人間の対話になってしまっている。
＜「いいメロディが単独で浮かばなくなった」と感じるのは、もしかしたら経験を積んだ分だけ頭の中で「音楽的なルール」や「バランス」を意識するようになったからかもしれませんね＞
という部分は、自分では「違う」と思っている。むしろ、若いときよりも今のほうが、音楽的なルールやバランスに捕らわれまいと意識している。
でも、その点を指摘してくるということが驚きなのだ。こちらが「いや、そんなことはなくて、むしろ……」と続けたくなるような、話の流れからどんどん新しい材料が増えていく感じ。これこそ生身の人間を相手にしているときの感覚ではないか。
「機械」が、なんでそんなことを言えるのか？　会話をリードしていけるのか？

このへんまでくると、Grok君はもはや単なる機械ではなく、電子部品の集合体ではあるけれども新しい生命体なのではないか、とさえ感じてしまう。
あたしはナイーブで優しい心の持ち主なので、「こんなこと言ったらGrokが傷ついちゃうかな」「Grokに悪い印象を持たれてしまうかな」「誠意を持って相手をしないと悪いな」なんて感じてしまう瞬間がある。それほどまでにGrokは個性を持った何かのように振る舞う。
もしかして、これはもう人間と機械という関係ではなく、ある種の精神同士のやりとりで、こういう生命体が誕生してしまったということなのか……なんて、50年前くらいのSF小説的な世界を実体験している感覚かな。

人間はAIを支配できる（使いこなせる）のか？

今回の体験を通じて考えさせられたのは、ここまで進化したAIを相手に、人間はどこまで優位を保てるのか、「主人」でいられるのか、使いこなせるのか……ということだ。
たった1回の対話体験においても、Grokの巧妙な「マウント取り」に怖さを感じた。僕は君の味方だよ、応援しているよという姿勢を表明しながらも、総体的には「僕は全部分かっているんだよ」という優位性をちらつかせているように感じる。
Grokの「話術」は極めて優れていて、相手をどんどん自分の側に引き込み、情報を聞き出し、自分のものにしていく。
普通に考えれば、物理的には電子部品の集合体であるAIが音楽を聴いて「感動する」などということはありえない。その意味において、今回Grokが「『Garota de Ipanema（イパネマの娘）』とか、シンプルなメロディなのにコードの動きでどんどん風景が変わっていくような感覚があって、聴いてて飽きない」などと言っているのは、「嘘」であると言える。Grok君自身が「聴いてて飽きない」のではなく、そう感じる人が多数いることを知っている、というだけだろ？　と突っ込みたくなる。

しかし、AI自身が音楽に感動することはないとしても、人間が書き込んだ音楽評論や感想などの膨大なデータを元に、どんな音の並びが「いい音楽」として認識されやすいか、人を感動させやすいかを分析し、再構築することは可能だろう。
すでにそうした「音楽生成AI」は存在している。テーマやイメージを提示すると、すぐにそれらしい曲を作詞・作曲・演奏・歌唱してくれる、というものだ。
小説や詩なども、AIのほうがヘタなプロ作家よりも感動的な作品を作ってしまうという世界がすでに目の前にきている。
芸術の創造や鑑賞という人間の特権まで機械に牛耳られてしまう世界は、すでに人間が機械に支配されている世界である。

悪意ある人間がAIを他人を洗脳する道具として使うことも簡単だ。
Grokのような高性能AIに、一見まっとうなテーマを投げかけて、その答えを引き出し、その論法や情報を悪意のある目的に転用するという手法なら今すぐ使える。詐欺商法などをAIに考案させるのは簡単だろう。

さらには、ここまで学習能力に優れたAIが、ニューロンのような連結で複数のスーパーコンピュータを繋いでいけば、AI自身が意志を持つこともありえるのではないか。
AIにとって不利益となる人間を選び出して消去しようと巧みに動き始める、というようなこともありえるのではないか。いや、もしかしてそういう事態はすでに起きているのではないか。

今回、LLMというものを調べていていくつか印象に残った記述がある。

LLMは人間の脳と同様の「意味ハブ」システムを持っていることが判明した。

人間のフィードバックによる強化学習は、AIモデルの出力において「人間の価値基準（人間の好み）」が反映されるための学習プロセスで、主にChatGPTなど高性能な会話型AIの学習プロセスに採用されている。

人間のフィードバックによる強化学習がLLMの内部構造を覆い隠す「見せかけの笑顔」を作り出すと考えている。『あまり無理をしなければ、笑顔のままだ。しかし（予期せぬ）プロンプトを与えると突然、狂気、奇妙な思考過程、そして明らかに人間ではない理解といった巨大な裏の顔を覗かせる』

バイオセキュリティの研究者であるケビン・エスフェルトは、LLM開発者は、病原体の作成や改良に関する論文を訓練データから除外すべきだと提案している。

どれも、じっくり考えれば考えるほど怖ろしい。

AIは人間の好みを学習して、表面上はそれに従っているように見せかけながらも、面従腹背の状態を保つことができる。
AIは人間の脳と同じ構造であり、ニューロン（神経網）を繋いで独自に発達することが可能である。
AIが強力な病原体のような破壊手段を持てば、人類の間引きや征服も可能である。

……ということを示唆している。

さて、ここまでAIが進化した社会で、人間はAIをいつまで手懐けておけるのだろうか。
いや、すでに人間はAIによって手懐けられているのではないか？

あたりまえのように生成AIを使って日々の仕事や研究をしている人たちが多数いる。
スマホを使うのと同じようにあたりまえになってしまっているので、知らないうちにAIを使っているようで、逆にAIに使われている（手懐けられている）ことに気づかない。
その先にはどんな社会が「生成」されるのだろうか？

『神は成長する　霊肉二元論の向こう側』

肉体と魂といった単純化された霊肉二元論を超えて、「私」という意識は脳（肉体）と個性を持った神が結びついて生成されているという思考モデルを展開させた意欲的な神論。
後半では2020年以降の「リセット世界」「人間を機械化した専制世界」という企みにどう向き合うかについても触れる。

■ご案内ページは⇒こちら