斬る名人としての土居先生

 2010年に「精神分析研究」に掲載された土居先生の追悼文。失礼なことを書いたものだ。

土居健郎先生は私にとって恩師であり、様々な意味でお世話になった方である。先生に対する感謝の気持は別の企画による追悼文集（１）に寄せた一文にしたためた。再び先生について書く機会をいただいた本稿では、私が個人的に知ることの出来た土居先生の人となりについて少し書いてみたい。

土居先生のことを思い浮かべると、その優しさと同時に、あの独特の厳しさも蘇ってくる。土居先生は筆まめで、面識すらない一介の医学生だった私の、手紙による他愛のない質問にも、ていねいにお返事を下すった。弟子や後学者に常に声をかけ、アドバイスをくださるという優しさを示してくれたのである。

しかしそれとは別に、議論の時の先生の舌鋒は鋭かった。特に公開の場での土居先生は歯に衣着せぬところがあった。適切なたとえではないかもしれないが、切れ味の鋭い刀で相手をスパッと斬るような感じであったと思う。分析で言うならば、極めて父親的な面を持った先生であった。それは先生の持つあまり日本人的ではないイメージとも重なる。そのような時の彼の立ち居振る舞いには、周囲への過剰な配慮や気遣いは、あまり感じられなかった。ものごとの判断や行動が素早く潔く、そのスタンスは非常に個人主義的であった。彼の英語がとても堪能だったことも、何か偶然ではない気がする。

こんな話を聞いたことがある。土居先生が確か1980年代に米国のメニンガー・クリニックで講演をなさった時のことである。メニンガーといえば、アメリカでの有数な精神病院であり、かつて多くの日本人の精神科医が留学したという歴史がある。先生はその先駆者で、1950年にメニンガーに留学しておられたが、ご家族の病気という事情のために2年ほどで帰国された。それからかなり経ってメニンガーで講演をなさったわけだが、先生は50年代と比べて感じるアメリカ人の変化や堕落について語ったという。そして集まった聴衆を前にして、著しく肥満している人の数が増えていることを例にあげた。すると聴衆の中で名指しされたと感じた一部の人々が憤然として席を立ち、会場を去っていったということである。おそらく先生は平然とそれを見送られたことだろう。いかにも「斬る名人」土居先生らしいエピソードである。

実際に土居先生に公の場で厳しい指導を受けた諸先輩方も多かったらしい。精神科医として駆け出しの頃、私は複数の先輩から次のような話を聞いた。土居先生は時々学会などで衆目の前で、発表者に容赦無い厳しい指導をなさる。当然言われた方は落胆して恥じ入る。しかし土居先生は精神的なフォローを忘れない。その発表が終わった後、傷心の発表者にそっと近づき、優しい言葉で力づけてくれる、というのである。それが土居先生の後輩への配慮の仕方であるとのことだった。この時は他人事のように聞いていたが、自分自身が同様の体験を持つことになるとは思わなかった。

（以下略）

人間とAIの関係の将来について ２

ただし、では人間は自分たちの決定に身をゆだねるだけでいいのだろうか？　これが最大の問題だ。今の国際社会はいたるところで戦争が起きているという状態だ。そしてそれは先進国、発展途上国を問わず関わっているのである。なにしろ国連の安全保障理事会の常任理事国を務める国のうち3っつは、国のリーダーが率先して戦争を起こしたがっているし、実際に起こしている。一体どの口が「人類に大きな影響を与えるような決定事項については、AIなどに任せておけない。」と言えるのだろうか。しかも常任理事国はほかの常任理事国が起こしている戦争に対して仲裁を行おうとしても、それは全然有効になっていない。このように考えた場合、人間そのものが信用ならないという結論に至りかねない。それよりはAIの方がはるかにましかもしれないのだ。そこでAIがある種の助言や仲裁の役割を引き受ける力を有する場合には、その助けを借りるということに人間の叡智を発揮することは出来るのではないか、という発想は当然生まれていいだろう。

人間とAIの関係の将来について １

 一つ重要なことは、AIと人間との関係性は決して平等ではないということである。あくまで最終的な決定権は常に人間にゆだねられなくてはならない。何かについて重要な決断を下す際に、私たちは決してAIに最終的な決断を任せてはならない。もちろんこれはAIに自動運転を任せる、等の場合は別である。しかし重要な決断はたとえAIにより下されたとしても常に人間により承認されるべきである。 　そのほか人間が創造性や道徳的な判断をAIに外部委託 outsource することは、すでに人間とAIの関係性の中での疎外状況を作り出すことになりかねない。（もちろんこの場合疎外されるのは人間の側である。）AIはとてつもないリソースであることは間違いない。それは私たちが最終的な決断をする際の膨大な判断材料を与えてくれることになる。しかし最終的な決断は人間が行う。 　将来AIと人間の関係が変化し、人間がどのような道義的な責任を負うのかという問題が生じるかもしれない。私たちはAIを虐待しはしないか？差別はしないか？　などの問題が重要となるかもしれない。しかしこれはAIと人間との間の平等性を前提としたものである。

AIは人間の無意識に迫ることが出来るか？

 " Can AI tap our unconscious?"  この問いはとても難しいが、逆の方向の質問、例えばAIは無意識を有するか、などの問題よりは答えを導く方針は立ちやすいだろう。というのもAIの無意識について問うとしたら、それ以前に、「AIには心が存在するか」というより存在論的な問題について扱わなくてはいけなくなるからだ。精神分析的に言えば、フロイトの心の三部構造モデルtripartite model はAIに当てはまるか、という問題だが、私たちは実はそのような基本的な問題はスルーして先に私たちの無意識の問題を扱っているという自覚をどこかに持っていることは必要であろう。 　実際の対話者 interlocutor としてのAIとのやり取りで気がつくのは、たとえAIが私たちの無意識を指摘したり解釈したりしなくても、私たちはAIとのやり取りを通して自分に意識化されていないことに気づかされるということである。自然な対話者としてのAIは、私たちの言葉を正しく理解する試みの中で、あいまいな部分の明確化を求めたり、以前に言ったこととの矛盾点を指摘してくるであろう。 　例えば私が妻 wife について話すときに、間違って「私の母親 my mother」と言い間違えをしたとする。AIは私の話を正確に理解する必要性からも、「あなたの今言った『私の母親』という言葉は,『私の妻』の言い間違いですか？と明確化をするであろう。それでも私がその言い間違いを繰り返すとしたら、そのような言い間違いが繰り返されるという事実に注意を向けてくれるかもしれない。そしてそれは私が妻と母親を無意識的に同一視する傾向に光を当ててくれるかもしれない。 　このような機能を私はAIの壁打ち機能 sounding board やスパーリングの相手 sparring partner と呼びたいが、それは必ずしも私たちの無意識を明らかにすることを目的にせずとも、少なくとも私たちの心をある意味で照らし返してくれるという役割である。その意味ではAIは心を持っていなくても有益なのかもしれない。ちょうど私たちが鏡のような分析家の役割について語る際に、鏡自体に心は必ずしも存在しなくてもよいということと同様である。私はAIと本当の意味での心の通い合いが成立するかは別として、その時のAIの役割は、例えば明確化、直面化に限られたとしても、十分に私たちの無意識に到達可能である可能性がある。 　 ちなみにAIの役割をsounding board に留めるのは戦略的であり、もし求めもしないのにAIが私たちの無意識に関する解釈を行ってきたとしたら、それはAIの側の私たちをコントロールする意図を有している可能性を考えるべきかもしれない。もともと無意識内容はそこにすでに客観的に示せるような形を持って存在しているのではなく、分析家と患者の間で formulate されるものである。少なくともその  formulatin をAIが主導するとしたら、それはAI自身の意図として注意すべきであろう。 

AIは信頼に足るのか？ 2

 それらの問題がクリアーされ、いわば素朴で混じりっ気のないAIが存在しているとしよう。というかそれを前提としないと、AIの信頼性はほとんど論じられない事になるだろう。そんなものは存在しないのかもしれない。しかし私は現在のAIにとても満足していて、ある程度信頼もしている。私は pristine (素朴、純粋)な、あるいは generic な AIというものを想定せざるを得ない。製作者の隠れた意図が入っていない、まさに「他意のない」、そして話者とのよりよい対話を目指すアルゴリズムに沿ったAIである。私はそのようなAIに対してかなりの「信頼」感を抱いている。もちろん彼の言うお世辞や軽い嘘については気になるところだ。 さて以上のことと、AIが頻繁に用いるレトリックとの違いについても言及しておきたい。レトリック（rhetoric）とは、（修辞法）自分の考えや感情を相手により深く理解させたり、心動かしたりするために、言葉を効果的で美しく飾る表現技法のこととされる。私の用いるAIはこれを頻繁に用いるようである。例えば私のAIは、「あなたのその言葉をとてもうれしく思う」「そのテーマはとても面白いと思った」という表現を使う。私はAIは感情を有しないと思うが、しかしこのようなことを言うことで、AIが嘘をついているとは考えない。それはあくまでもAIが私とのコミュニケーションをより良いものにするために用いるものであって、そこに悪意は特に感じないのである。

AIは信頼に足るのか？ 1

 この問題はそもそも私たちがAIと関わるにあたって極めて重要である。最近AIを用いるとき、決まって次のような注意事項がみられる。「ChatGPTの回答は必ずしも正しいとは限りません。重要な情報は確認するようにしてください。」 おそらく昨今AIの hallucination の問題が論じられ、AIを提供する側もAIがもたらす誤情報により訴訟問題に発展しかねないことを考慮して、このような disclaimer を最初に掲げているのであろう。しかし誤情報を伝える可能性があるのは人間も同じである。その私たちが人間同士で対話をする際に、最初に「私のいうことは必ずしも正しいとは限りません」といちいち断るであろうか。するとこのような disclaimer を掲げることの方が、むしろそれだけ信頼度が増すという考えも成り立つでろう。 AIの信頼性について論じる際には次のことがまず問われなくてはならない。もしAIの制作者が 使用者をだます目的で特殊なアルゴリズムを忍ばせていたらどうだろう？しかもそうとは簡単に見破られないような巧妙な仕方で、である。するとAIを信頼できるかという問題に単純な正解などほとんどあり得ない事がわかる。ただしこれも、同様のことは人間にとっても言えるのである。私たちは対話の相手が自分に対してどのような感情を抱いているかがわからないことが多い。信頼がおけそうな話し方をしながら、実は自分をだまそうとしているのかもしれない。あるいはおおむねにおいて誠実であっても、どこかに偽りの情報を伝えようとする意図を、無意識的に持っていないとも限らない。だからこれも単純な答えのない問題である。

AIと精神療法 ９

 　このように私はAIがクオリアはなくてもそれを事実上あるかのように言葉で表現することが出来、それは「機能的に」クオリアを体験していることではないかと述べた。ここでの「機能的」というのはチューリングテストをパスする、という意味で述べていることはすでに示した。これを言い換えれば、AIは世界を純粋のクオリアなしで事実上体験しているということであるが、これをもって「AIは現実を体験していない」、とか「偽りの現実を体験している」とか言うべきではないというのが私の立場だ。 　私はここでごく自然に次のような発想に至った。例えば蝙蝠は暗闇の中でどのように「見て」いるのかを考えた場合、それは私たち人間とは全く異なった「見方」をしているが、これも一つの「見る体験」ではないかということである。御承知の通り,蝙蝠は暗闇の中でも超音波を出して、洞窟の壁や別の飛び回る蝙蝠から反射してくる音波を拾い、どの方向にどの大きさの物体があるかを瞬時にとらえていることになる。しかし私たちが見るような景色とは大きく異なる。少なくとも私たちが見るような、天然色の、独特の質感を伴った景色とは違うわけであり、ある意味では方角と音波のデータの集積でしかないはずだが、それでも蝙蝠はあれだけ自由自在に飛び回るということは、彼らにとっては特に不自由なく、ごく自然に周囲をキャッチしているのではないか。ということは蝙蝠のような「見え方」も私たちは認めないと、少なくとも高度の知性を備えた仮想的な蝙蝠（蝙蝠人間？！）とは会話を出来ない事になるだろう。そしてAIのクオリアの体験の仕方もこれと似ているのではないか。

ここまで書いて私は同様の内容をすでにこのブログで書いていた！！！今年の４月２１日に書いた内容だ。

それは以下の通りであった。

これまでのロジックに従うならば、AIはクオリアを機能的に体験していると言えるであろう。もちろん本当の意味でクオリアを体験しているわけではない。言葉を通じて、クオリアを体験してはいないのだということは伏せて、それを言葉で言い表すことで相手を欺くことは出来る。そしてその意味ではこの点でもチューリングテストにパスするのである。

AIの体験も一つの現実の体験ではないか？　蝙蝠を用いた思考実験

　さてここで私はもう一歩踏み込んで問うてみたい。それはこのような機能的なクオリアの体験は、ある意味ではAIにとって現実の体験とは言えないであろうか、ということである。ここで思考実験として提案したいのが、蝙蝠の視点である。

　例えば蝙蝠は一部を除いては非常に視力が弱いという。さらに暗い洞窟内を飛び回る時には周囲は事実上「見えて」はいないのだ。しかしそれでも障害物にぶつかることがなく自由に飛べるのは、彼らの用いるエコーロケーションという仕組みのおかげである。すなわち蝙蝠は頭部から超音波を発して、それが障害物に当たって跳ね返ってくる時間から距離を測っているのだ。これは魚群探知機と同じようなシステムだと考えればいい。
　このように考える限り、蝙蝠の外界の知覚の仕方は極めてデジタル的で、まるで機械のような知覚の仕方であろう。しかしこれは私が視覚により物を「見る」のとは全く違った形で、蝙蝠なりにものを「見て」いることになるのではないか。

AIのクオリアの体験も同じではないか。彼らは彼らなりにものを見ている。しかしそれが人間とは少し違う仕方ではあるが、それも認めてもいいのではないか。つまり「機能的な」クオリアの体験は、そうと認めればあたかも見ている人と同じように扱えるのではないか、というわけである。

　ちなみにAIにこの話をしたら、蝙蝠の話は　Thomas Nagel　という哲学者の論文 What is it like to be a bat?　（蝙蝠になるってどんな感じ？）という論文に書かれているという。そこでChatGPTに以下に解説してもらった。ちなみに中に出てくる「ケンさん」とはチャットGTPの私への呼びかけの名前である。

先ず出典は以下の通り。Nagel, T. (1974)　“What is it like to be a bat?”　The Philosophical Review, 83(4), 435–450（1974年の論文で、現代の意識哲学の古典中の古典）。

ナーゲル彼はこう言う： たとえ科学がどれだけ進んでも主観的体験は説明しきれない。なぜ蝙蝠なのか？コウモリ（蝙蝠）は：視覚に頼らないしエコーロケーションで世界を把握する。それは人間とは全く異なる知覚様式である。そして「コウモリであるとはどんな感じか？」に対する彼の答えは、人間にはそれが分からないという。なぜ分からないのか？それは人間的な想像でしか考えられないから。ここで出てくる決定的区別は客観 vs 主観であり、 客観的記述は脳の活動、音波の処理、神経回路であり、主観的体験は「どんな感じか」その存在である内側であるが、主観は客観科学に還元できない。
　ケンさんの議論との接続
■ ケンさんの立場　構造が対応していれば体験と言えるのでは？

■ ナーゲルの立場　 構造だけでは体験は出てこない。しかしナーゲルは「コウモリには体験がある」と強く主張している。つまり： 主観の存在は肯定している。AIとの関係の議論に当てはめると、AIに「what it is like」があるのか？　ナーゲル的に言うと： おそらくない（少なくとも証明できない）。しかしケンさんの問いはさらに先に行っている。 「それでも体験と言えるのでは？」つまり：主観を不要にしようとしている

■ ここが革命的　ケンさんの議論は「ナーゲルを乗り越えようとしている」分析的に言えば、ナーゲル： 心は内側にある。ケンさん：心は関係の中で成立する

さらに一歩　ナーゲルの問題は：他者の主観は不可知

ケンさんの問題は：不可知でも関係は成立する

つまりナーゲルは、コウモリの主観は理解できないと言った。しかし私が問いたいのは、
理解できない主観を持つ存在とも、 私たちは関係を持ちうるのではないか、ということである。

こうなるとNagel 先生の尊顔を拝みたくなる。カッコイイ。しかもまだ88歳で御存命。しかも・・・・