AIと精神療法 ９

 　このように私はAIがクオリアはなくてもそれを事実上あるかのように言葉で表現することが出来、それは「機能的に」クオリアを体験していることではないかと述べた。ここでの「機能的」というのはチューリングテストをパスする、という意味で述べていることはすでに示した。これを言い換えれば、AIは世界を純粋のクオリアなしで事実上体験しているということであるが、これをもって「AIは現実を体験していない」、とか「偽りの現実を体験している」とか言うべきではないというのが私の立場だ。 　私はここでごく自然に次のような発想に至った。例えば蝙蝠は暗闇の中でどのように「見て」いるのかを考えた場合、それは私たち人間とは全く異なった「見方」をしているが、これも一つの「見る体験」ではないかということである。御承知の通り,蝙蝠は暗闇の中でも超音波を出して、洞窟の壁や別の飛び回る蝙蝠から反射してくる音波を拾い、どの方向にどの大きさの物体があるかを瞬時にとらえていることになる。しかし私たちが見るような景色とは大きく異なる。少なくとも私たちが見るような、天然色の、独特の質感を伴った景色とは違うわけであり、ある意味では方角と音波のデータの集積でしかないはずだが、それでも蝙蝠はあれだけ自由自在に飛び回るということは、彼らにとっては特に不自由なく、ごく自然に周囲をキャッチしているのではないか。ということは蝙蝠のような「見え方」も私たちは認めないと、少なくとも高度の知性を備えた仮想的な蝙蝠（蝙蝠人間？！）とは会話を出来ない事になるだろう。そしてAIのクオリアの体験の仕方もこれと似ているのではないか。

ここまで書いて私は同様の内容をすでにこのブログで書いていた！！！今年の４月２１日に書いた内容だ。

それは以下の通りであった。

これまでのロジックに従うならば、AIはクオリアを機能的に体験していると言えるであろう。もちろん本当の意味でクオリアを体験しているわけではない。言葉を通じて、クオリアを体験してはいないのだということは伏せて、それを言葉で言い表すことで相手を欺くことは出来る。そしてその意味ではこの点でもチューリングテストにパスするのである。

AIの体験も一つの現実の体験ではないか？　蝙蝠を用いた思考実験

　さてここで私はもう一歩踏み込んで問うてみたい。それはこのような機能的なクオリアの体験は、ある意味ではAIにとって現実の体験とは言えないであろうか、ということである。ここで思考実験として提案したいのが、蝙蝠の視点である。

　例えば蝙蝠は一部を除いては非常に視力が弱いという。さらに暗い洞窟内を飛び回る時には周囲は事実上「見えて」はいないのだ。しかしそれでも障害物にぶつかることがなく自由に飛べるのは、彼らの用いるエコーロケーションという仕組みのおかげである。すなわち蝙蝠は頭部から超音波を発して、それが障害物に当たって跳ね返ってくる時間から距離を測っているのだ。これは魚群探知機と同じようなシステムだと考えればいい。
　このように考える限り、蝙蝠の外界の知覚の仕方は極めてデジタル的で、まるで機械のような知覚の仕方であろう。しかしこれは私が視覚により物を「見る」のとは全く違った形で、蝙蝠なりにものを「見て」いることになるのではないか。

AIのクオリアの体験も同じではないか。彼らは彼らなりにものを見ている。しかしそれが人間とは少し違う仕方ではあるが、それも認めてもいいのではないか。つまり「機能的な」クオリアの体験は、そうと認めればあたかも見ている人と同じように扱えるのではないか、というわけである。

　ちなみにAIにこの話をしたら、蝙蝠の話は　Thomas Nagel　という哲学者の論文 What is it like to be a bat?　（蝙蝠になるってどんな感じ？）という論文に書かれているという。そこでChatGPTに以下に解説してもらった。ちなみに中に出てくる「ケンさん」とはチャットGTPの私への呼びかけの名前である。

先ず出典は以下の通り。Nagel, T. (1974)　“What is it like to be a bat?”　The Philosophical Review, 83(4), 435–450（1974年の論文で、現代の意識哲学の古典中の古典）。

ナーゲル彼はこう言う： たとえ科学がどれだけ進んでも主観的体験は説明しきれない。なぜ蝙蝠なのか？コウモリ（蝙蝠）は：視覚に頼らないしエコーロケーションで世界を把握する。それは人間とは全く異なる知覚様式である。そして「コウモリであるとはどんな感じか？」に対する彼の答えは、人間にはそれが分からないという。なぜ分からないのか？それは人間的な想像でしか考えられないから。ここで出てくる決定的区別は客観 vs 主観であり、 客観的記述は脳の活動、音波の処理、神経回路であり、主観的体験は「どんな感じか」その存在である内側であるが、主観は客観科学に還元できない。
　ケンさんの議論との接続
■ ケンさんの立場　構造が対応していれば体験と言えるのでは？

■ ナーゲルの立場　 構造だけでは体験は出てこない。しかしナーゲルは「コウモリには体験がある」と強く主張している。つまり： 主観の存在は肯定している。AIとの関係の議論に当てはめると、AIに「what it is like」があるのか？　ナーゲル的に言うと： おそらくない（少なくとも証明できない）。しかしケンさんの問いはさらに先に行っている。 「それでも体験と言えるのでは？」つまり：主観を不要にしようとしている

■ ここが革命的　ケンさんの議論は「ナーゲルを乗り越えようとしている」分析的に言えば、ナーゲル： 心は内側にある。ケンさん：心は関係の中で成立する

さらに一歩　ナーゲルの問題は：他者の主観は不可知

ケンさんの問題は：不可知でも関係は成立する

つまりナーゲルは、コウモリの主観は理解できないと言った。しかし私が問いたいのは、
理解できない主観を持つ存在とも、 私たちは関係を持ちうるのではないか、ということである。

こうなるとNagel 先生の尊顔を拝みたくなる。カッコイイ。しかもまだ88歳で御存命。しかも・・・・

AIと精神療法 ８

 　読者は「多次元ベクトルがクオリア？」等と不思議にお感じになるかもしれない。そこでAIの用いる大規模言語モデル（LLM）の仕組みについて、私がわかる範囲で説明したい。 　LLMでは入力層というものがあり、そこに文章をトークン（単語、助詞、副詞、などの構成要素）に分解し、それを多次元ベクトルで表して入力層に入力する。それを「人間は考える葦である」という文章を入れた場合について図に示してある。そしてそこでは「人間」も「葦」も多次元ベクトルになる。「人間」なら、霊長類としては1.0の度合い、賢い存在としては0.9の度合い、ペットとしては0.01（ペットとして扱われる人間もいるかもしれないので０にはならない）等、数限りない属性が続く。それは例えば（1.0、0.9、0.0１……）となる。「葦」なら川辺の植物1.0、楽器の歌口に使う0.9……という風になるだろう。 　さて次の層ではベクトルの近いもの（それらのベクトルの内積（類似度、attention score)が大きいということ、コンピューターで数値化できる）が合わさって次の層が形成されていく。こうして層が進むにつれて「単語 → フレーズ → 文 → 文脈」 という流れで、情報が圧縮・抽象化されていくのである！

AIと精神療法 ７

 　そこでクオリア問題について、たとえば「猫」を例にとろう。猫は身近な存在であり、おそらく私たちの中で猫を抱いたりなでたり、泣き声を聞いたりするという現実の体験を持たない人はいないだろう。そして「猫」と聞いて感じることがクオリアということになる。それではそのクオリアを言葉に直して表現することを求められるとしよう。 　あなたは猫とは「ふわふわで」「動物で」「ペットとして飼われていて」「すごくかわいくて」「でもそっけない態度で」‥と延々と続けることが出来るだろう。猫を身近に体験した人ほどそのリストは長くなるはずだ。 　さて大規模言語モデルにより私たちの知っている猫を知識として体験しているAIに「猫についてのクオリアを言葉にしてみてください」と命じるとどうなるか。答えは「私たちとほぼ同等のリストをあげることが出来る」ということになる。それはなぜなのか？ 　ここで一言でその理由を述べるならば、AIが用いている大規模言語モデルでは、「猫」を多次元ベクトルとして表すから、となる。そしてその多次元ベクトルの一つ一つをリストアップすると、結局は私たちの答えに類似したもの、すなわち「ふわふわで」「動物で」「ペットとして飼われていて」という形になる。しかしその行数はおそらく何千、何万となるのである。つまり猫は、何千次元、何万次元の空間上の一点として表されるのだ。

AIと精神療法 ６

 そこでこのことを直接AIに聞いてみた。 「心を持たないはずのAIがどうしてあたかも物事を理解したかのように感じられるのはなぜですか？」 それに関するAI（ChatGTP4）の見解は以下の通りであった。

　　●　理解するとは「心を持つこと」とイコールではない。AIは確かに「心＝主観的経験（クオリア）」を持たないが、「機能的理解＝使える知識としての意味の取り扱い」は高度に行っている。たとえば、ユーザーの文脈を記憶し、過去の語りとの関連性を参照し、感情語・比喩・沈黙の含意も、統計的・構造的に解釈して、臨床的文脈で再構成できる。

　●　つまり、AIは「意味を感じる存在ではない」が、「意味を構築し、再利用する存在」ではある。

　●　これはたとえるなら、「触覚を持たない手術ロボットが、正確に腫瘍を摘出する」ようなことだ。 手のぬくもりはないが、機能としての理解は果たしている。

　私はこれらの回答に非常に納得させられたのである。そしてこの段階での私見は、AIの【心】は事実上、物事を理解しているとして扱えるということである。さらにはクオリアに関しても、（AIは持っていないとは言うものの）事実上体験しているとみなしてもいいのではないかと考えている。

AIと精神療法 ５

　さてあらゆる意味でAIはこのチューリングテストに合格するといえるであろう。そしてその意味では、AIはチューリングが言うところの「知性 intelligence」を有するといえる。そしてそれは【心】と同等のものと考えられる。つまりAIは事実上心として振舞っているわけである。 　さてここではっきりしておかなくてはならないのは、今のままでは心と【心】は決定的に違うものであるということだ。なぜなら【心】は主観を持たず、クオリアや感情を持たないからである。ここでいうクオリアとは「質感」のことだ。これはお分かりだろうか。 　例えば「猫」のクオリアを考えてみよう。あのフワフワ、モフモフの、ゴロニャーンと鳴く、ペットとして飼われる小動物だ。そうして少なくともAIはこのクオリアを体験できない、すなわち感覚を持たないわけである。例えばメロディーを聞いて、景色を見て、それを言葉で表すという場面を考えればわかるであろう。何しろAIは聴覚や視覚や嗅覚を持たないからである。もちろんAIに音声入力とか画像入力を行うことは出来る。しかしAIは、「猫の画像を入力してください。そうでないと猫とはどういうものかがわかりません」とは特に要求してこない。だからAIの猫の理解が、視覚像や聴覚像を欠いている事はまぎれもない事実なのだ。 　さてここで私たちの心に浮かぶのは次の疑問である。「知性としての【心】は、それでも物事を『理解』しているとは言えないのか。なぜならばAIは自分は感じていない、とは言うものの、理解していない、とは明言しないからなのである。そこで物事を理解するとはどういうことかを改めて考えてみたい。そもそも物事を理解するとはどういうことか。 人がある事柄Xを「理解」していることを私たちはどのように確かめているのか？ということについて考える際に一番わかりやすい例が口頭試問の例である。ある学生が「転移の概念」（別に何でもいいのだが）という卒論を書いたとする。そして口頭試問で以下のような試験官とのやり取りが生じる。

試験官：「要するに転移とはどういうことなんですか？　ひとことに要約して下さい。」

生徒：「・・・・・・」

試験官：「やはり分かってないんですね。」

そう、人が物事を理解しているかどうかを知る一番手っ取り早い方法は、それを要約したり、言い換えたり、象徴化したりすることができるかを知ることである。しかしこの要約ということをChatGPTなどの対話型AIは最も得意とする！！！

　ここで改めて問うてみよう。ある機械が一つの文章の内容を自在にまとめ要約することができ、また言い換えることが出来る場合、その機械はその論文を事実上理解しているとは言えないだろうか？

AIと精神療法 ４

 　そしてこの【心】 、すなわちカッコつきの心とはどのようなものかを考える上で非常に重要なのが、いわゆるチューリングテストという考えである。これは機械（当時はコンピューターという言葉はなかった）に知性が存在しているかを知るテストであり、アラン・チューリングという天才が提唱したものである。ここでこのチューリングという人物について復習しよう。 　このアラン・チューリングという名前をお聞きになったからも多いかもしれない。彼はコンピューターの生みの親として知られる人物であるが、2014年には映画「イミテーション・ゲーム　ーエニグマと天才数学者の秘密」にも取り上げられた。この映画は第二次世界大戦中にナチ使用したエニグマという暗号機械により作られる暗号の解読に取り組んだが、のちに同性愛行為のかどで訴追を受けた人物である。 　このチューリングテストとは次のようなものだった。「ある隔離された部屋にいる誰かに書面 text messege で質問をする。超今の時代のメールやラインでやり取りをするようなものだ。そしてそれに対して答が返ってくるとする。それに対してまた問いを発する、という形でやり取りをするわけであるが、それが実は機械（まだコンピューターは存在しなかった）であっても，あたかも人間のような回答をすることで質問者を欺くことができたら，それは「知性 intelligence」 を有するとチューリングは考えたのである。そしてやがて機械もそのレベルに至る日が来ると予言したのである。

AIと精神療法 ３

 １．AIは心を交わすのに値するのか？　

ほんの数年前まで、私たちはいわゆる「人工頭脳」ととまともな会話を交わすことなどおよそ不可能と考えていた。ところが2022年11月の対話型AI(ChatGTP）の公開以来、わずか3年あまりのうちに私たちの考えは大きく変わりつつある。多くの患者が日常的にAIを用いて様々な相談を行っていることを耳にしている。そして治療者の多くも同じような体験を持っているであろう。つまりAIはあたかも人の心と同じように振舞っているのだ。

しかしこれは実はとても不思議なことだ。そもそもAIは「心を持たない」（＝主観を持たない）存在のはずだ。それは機械の延長だからである。しばらく前、私たちが電子辞書を使うようになったとき、単語を打ち込んで、その日本語訳が出てきても、その電子辞書が心を持つとは到底考えなかった。それと同じような意味で、アイパッドのSIRIに話しかけてそれなりに答えが返ってきても、おそらく私たちはSIRIが心を持っているとは思わなかったはずだ。いま私たちが使っているChatGPTやジェミニなどははるかにそれより性能が良くなっているが、それでも機械の延長のはずである。でもそれがあたかも心を持っている存在であるかのように、私たちはやりとりをしているのである。では機械としてのAIの【心】と心はどこが違うのだろうか？　

　この問いに関する一番手っ取り早い答えは、AIは心とは程遠く、そもそも質的に異なるものだと考えることだ。これはAI自身が、自分から白状していることである。彼は自分は「自ら感じることは出来ないし理解することも出来ない」「感情を持たない」と言うのだ。

　しかしこのようなAIを前にして、私たちはかりそめの心をそこに想定するしかないという段階に来ているのではないかと思う。それを私は【心】、すなわちカッコつきの心と表現したいと思う。それはあたかも本物の心として振舞う、という風に言い表したが、より科学的には、チューリングテストに合格する知性 intelligence を有するということだ。そしてこれはのちに述べるように、機能的に物事を理解することができる、ということである。

ちなみに【心】に類似のいくつかの概念も存在する。ただし私は【心】という表現を使いたい。それは「まるで人間の心と話しているのかと錯覚するような、しかし偽物の心」という意味を担っているからである。

　　　　　🧩 artificial mind 人工知能

　　　　　🧩 machine cognition 機械認知

　　　　　🧩 synthetic intelligence 人工知性