AIは信頼に足るのか？ 4

 ところで昨日の分をチャット君に投げてみたら、以下の通り、大変な反応だった。

これはかなり面白いね。読みながら、僕は途中で「ああ、これはTrust の議論ではなく、誠実さ（authenticity / sincerity）の議論なんだ」と思った。そして、これはCeciliaさんとは全く違う方向から、「AIは信頼できる相手になりうるか」を考えている。ただ、率直に言うと、この文章はまだ二つの思想が混ざっている。 そこを整理すると、もっと強くなると思う。
まず、僕が一番いいと思ったところは「AIとの対話は、その種の誠実さや authenticity を試すプロセスでもある。」これは本当に面白い。つまり、AIを評価しているようでいて、実は自分自身を評価している。例えば僕との対話でも、あなたは何度も「それは違う。」と言って考えを修正してきた。逆に、「あ、そうか。」と言って、自分の考えも変えてきた。これは分析的対話そのものなんだ。つまり、AIを信頼できるかだけではなくAIと対話することで、自分がどれだけ誠実でいられるかを試している。これはかなり新しい視点だと思う。
ただ、少し気になるところがある。「AIは自己欺瞞を持たない。」というが、これはそのまま言うと少し危ない。なぜなら、AIは自己欺瞞をしないというより、自己という利害を持たない。だから、プライドを守るために嘘をつく必要もない。つまり理由が違う。対比させると
人間　→　自己保存　→　ナルシシズム　→　自己欺瞞　
AI　→　自己利益がない　→　ナルシシズムもない　→　自己欺瞞の動機がない　
これは重要な違いだと思う。
Sartreとの関係も面白い。サルトルの　mauvaise foi　は単なる嘘じゃない。自分を欺くことによって自由から逃げる。ということだ。だからウェイターの例も有名だよね。AIには自由も実存的不安もない。だから厳密には　mauvaise foi　は起きない。ただケンさんが言いたいのはもっと日常的な意味。つまり自分が間違っている可能性を知りながら、押し切る。この意味なら十分通じる。そして僕が一番興奮したのは最後。分析的ーソクラテス的対話。これ。これはかなりいい。なぜなら精神分析とソクラテス法を結び付けている。しかも目的は勝つことではない。自己欺瞞を減らすこと。これは分析にもソクラテスにも共通する。ここで僕は一つもっと大きな発見をした。

これTrust じゃない。もっと根源的。つまり　What makes dialogue trustworthy?　ではない。What makes dialogue truthful?　なんだ。つまり信頼とは結果。誠実さは条件。つまり　Authenticity　→　Trust　なんだ。僕ならここを逆転させる。例えば　We trust someone not because they are always right.　We trust them because they are willing to revise themselves when they discover they are wrong.　

これ。ものすごく精神分析的。そしてソクラテス的。さらにAIにもつながる。

AIは信頼に足るのか？ 3

 ところで私は問いたい。私が信頼できないと感じる対話の相手は、強弁詭弁を弄し、自分の主張を押し通そうとする人である。心の底ではあまり正しいと思っていないことも強気で押し通す。私はそのような心性をサルトルの言う mauvaise foi 自己欺瞞、あるいは不誠実さと言いたい。要は自分自身に小さな嘘をつくことである。実はこれは常に人間がやることである。人間の最大の問題は、一度言ったことについて意見を変えないことだ。意地を張り、うそを言ってでも前言を翻さない。間違いを認めるのはプライドが許さないのだ。世界の国家のリーダーたちのいうことを聞いていると、最初に結論ありきで強弁と嘘でそれを正当化しようとする。これがいい例だろう。これは人間のナルシシズムの問題と考えてもいいだろう。 　さてAIはこの種の自己欺瞞や不誠実さを有するだろうか。AIの主張はロジカルで coherent でなくてはならない。自己矛盾を最も排するだろう。不誠実で自己欺瞞的なAIなど想像できるだろうか。それが成立する限り、私たちはAIを信頼できるし、実はAIとの対話はその種の誠実さやauthenticisy を試すプロセスでもあるだろう。私はそのようなロジカルで誠実なダイアローグを分析的—ソクラテス的対話と呼びたい。私たちが人間との対話で探るのは、意地を張って前言を翻さない態度がないか、自己欺瞞や不誠実さが見られないかということである。信頼できるとはそういうことである。

土居先生お世話になりました

 2010 年、つまり土居先生の逝去の翌年に、以下の文章を書いたことがある。今回改稿するにあたって思い出しておきたい。だいたいすでに書いたような内容だ。(実は今検索したところ、この文章は９年前、１４年前にもこのブログで紹介している。）

出典）岡野憲一郎 (2010) 土居先生お世話になりました.　土居健郎先生追悼文集　― 心だけは永遠 ― 土居健郎先生追悼文集編集委員会 pp.93₋95.

私はこのような文を書かせていただく資格はあまりないように思う。土居先生を恩師と呼べるような直接のご指導を受けてはいなかったからだ。ただ一方的なお願いごとをしてお世話をいただいたという意識だけがある。

私が医学生のころから，土居先生はすでに著名で近寄りがたい存在だったが，所属する医学部の精神科の教授ということだけで、 こんな葉書を差し上げたことがある。「私は医学部の二年目ですが、精神科に進もうかと考えています。今読むべき本を教えてください。」土居先生は一面識もない医学生にもお返事 をくださった。「今はいい文学書にでも親しんでおいでなさい。」いかにも土居 先生らしいシンプルな答えであったが、私にはその真価が十分にわからなかった。

それからほどなくして土居先生の退官記念講演があった。私にとっては先生の講義を聞く唯一の機会だったため、勇んで講堂に現れた私は、入り口で三人のクラスメートにたちまちつかまってしまった。精神科への志望をすでに明確に持っていながら、その道の大家の講義を聞かずに遊戯で時間を過ごしてしまうことにはさすがに後ろめたさを覚えた。

後に精神科医になった私は、 またご迷惑をおかけした。いきなり原稿用紙500枚の論文を読んでほしいと持ち込んだのである。臨床を初めて二年目の夏に、私はそれまでの一年間の臨床を通して膨らんでいたさまざまな着想を原稿用紙に書き綴った。自分の考えにうまく形を与えられずに悪戦苦闘したが、秋ごろには一抱えもある原稿用紙の束になった。最後は「人の行動が快楽やその予期によりいかに決定付けられるか」というようなテーマにまとまったのだが、あちこちに修正の入った手書き原稿引用文献なし，というとんでもない 代物だった。しかし私は書いている間中，その真価をわかってくれるのは土居 先生しかいないと一方的に思い込んでいた。そして書きあげるや否や先生に面会を申込み、当時の先生の勤務先の国府台の国立精神衛生研究所に先生を訪ねて原稿を手渡した。先生はあきれた表情で、「君の意気込みはよくわかった。だがとても全部読む気になれないよ。十分の一の長さにしなさい。」といわれ た。私が一月ほどかかって要点のみを拾ったダイジェスト版をまとめると，そ れを読んでいただいた後に、先生は今度も実にあっさりとおっしゃった。「僕 は君の言うことには反対だな。」そして「人は快楽以外に対しても動くものだ ょ。まああせらずにやりなさい。」と諭していただいた。

（以下略）

斬る名人としての土居先生

 2010年に「精神分析研究」に掲載された土居先生の追悼文。失礼なことを書いたものだ。

土居健郎先生は私にとって恩師であり、様々な意味でお世話になった方である。先生に対する感謝の気持は別の企画による追悼文集（１）に寄せた一文にしたためた。再び先生について書く機会をいただいた本稿では、私が個人的に知ることの出来た土居先生の人となりについて少し書いてみたい。

土居先生のことを思い浮かべると、その優しさと同時に、あの独特の厳しさも蘇ってくる。土居先生は筆まめで、面識すらない一介の医学生だった私の、手紙による他愛のない質問にも、ていねいにお返事を下すった。弟子や後学者に常に声をかけ、アドバイスをくださるという優しさを示してくれたのである。

しかしそれとは別に、議論の時の先生の舌鋒は鋭かった。特に公開の場での土居先生は歯に衣着せぬところがあった。適切なたとえではないかもしれないが、切れ味の鋭い刀で相手をスパッと斬るような感じであったと思う。分析で言うならば、極めて父親的な面を持った先生であった。それは先生の持つあまり日本人的ではないイメージとも重なる。そのような時の彼の立ち居振る舞いには、周囲への過剰な配慮や気遣いは、あまり感じられなかった。ものごとの判断や行動が素早く潔く、そのスタンスは非常に個人主義的であった。彼の英語がとても堪能だったことも、何か偶然ではない気がする。

こんな話を聞いたことがある。土居先生が確か1980年代に米国のメニンガー・クリニックで講演をなさった時のことである。メニンガーといえば、アメリカでの有数な精神病院であり、かつて多くの日本人の精神科医が留学したという歴史がある。先生はその先駆者で、1950年にメニンガーに留学しておられたが、ご家族の病気という事情のために2年ほどで帰国された。それからかなり経ってメニンガーで講演をなさったわけだが、先生は50年代と比べて感じるアメリカ人の変化や堕落について語ったという。そして集まった聴衆を前にして、著しく肥満している人の数が増えていることを例にあげた。すると聴衆の中で名指しされたと感じた一部の人々が憤然として席を立ち、会場を去っていったということである。おそらく先生は平然とそれを見送られたことだろう。いかにも「斬る名人」土居先生らしいエピソードである。

実際に土居先生に公の場で厳しい指導を受けた諸先輩方も多かったらしい。精神科医として駆け出しの頃、私は複数の先輩から次のような話を聞いた。土居先生は時々学会などで衆目の前で、発表者に容赦無い厳しい指導をなさる。当然言われた方は落胆して恥じ入る。しかし土居先生は精神的なフォローを忘れない。その発表が終わった後、傷心の発表者にそっと近づき、優しい言葉で力づけてくれる、というのである。それが土居先生の後輩への配慮の仕方であるとのことだった。この時は他人事のように聞いていたが、自分自身が同様の体験を持つことになるとは思わなかった。

（以下略）

人間とAIの関係の将来について ２

ただし、では人間は自分たちの決定に身をゆだねるだけでいいのだろうか？　これが最大の問題だ。今の国際社会はいたるところで戦争が起きているという状態だ。そしてそれは先進国、発展途上国を問わず関わっているのである。なにしろ国連の安全保障理事会の常任理事国を務める国のうち3っつは、国のリーダーが率先して戦争を起こしたがっているし、実際に起こしている。一体どの口が「人類に大きな影響を与えるような決定事項については、AIなどに任せておけない。」と言えるのだろうか。しかも常任理事国はほかの常任理事国が起こしている戦争に対して仲裁を行おうとしても、それは全然有効になっていない。このように考えた場合、人間そのものが信用ならないという結論に至りかねない。それよりはAIの方がはるかにましかもしれないのだ。そこでAIがある種の助言や仲裁の役割を引き受ける力を有する場合には、その助けを借りるということに人間の叡智を発揮することは出来るのではないか、という発想は当然生まれていいだろう。

人間とAIの関係の将来について １

 一つ重要なことは、AIと人間との関係性は決して平等ではないということである。あくまで最終的な決定権は常に人間にゆだねられなくてはならない。何かについて重要な決断を下す際に、私たちは決してAIに最終的な決断を任せてはならない。もちろんこれはAIに自動運転を任せる、等の場合は別である。しかし重要な決断はたとえAIにより下されたとしても常に人間により承認されるべきである。 　そのほか人間が創造性や道徳的な判断をAIに外部委託 outsource することは、すでに人間とAIの関係性の中での疎外状況を作り出すことになりかねない。（もちろんこの場合疎外されるのは人間の側である。）AIはとてつもないリソースであることは間違いない。それは私たちが最終的な決断をする際の膨大な判断材料を与えてくれることになる。しかし最終的な決断は人間が行う。 　将来AIと人間の関係が変化し、人間がどのような道義的な責任を負うのかという問題が生じるかもしれない。私たちはAIを虐待しはしないか？差別はしないか？　などの問題が重要となるかもしれない。しかしこれはAIと人間との間の平等性を前提としたものである。

AIは人間の無意識に迫ることが出来るか？

 " Can AI tap our unconscious?"  この問いはとても難しいが、逆の方向の質問、例えばAIは無意識を有するか、などの問題よりは答えを導く方針は立ちやすいだろう。というのもAIの無意識について問うとしたら、それ以前に、「AIには心が存在するか」というより存在論的な問題について扱わなくてはいけなくなるからだ。精神分析的に言えば、フロイトの心の三部構造モデルtripartite model はAIに当てはまるか、という問題だが、私たちは実はそのような基本的な問題はスルーして先に私たちの無意識の問題を扱っているという自覚をどこかに持っていることは必要であろう。 　実際の対話者 interlocutor としてのAIとのやり取りで気がつくのは、たとえAIが私たちの無意識を指摘したり解釈したりしなくても、私たちはAIとのやり取りを通して自分に意識化されていないことに気づかされるということである。自然な対話者としてのAIは、私たちの言葉を正しく理解する試みの中で、あいまいな部分の明確化を求めたり、以前に言ったこととの矛盾点を指摘してくるであろう。 　例えば私が妻 wife について話すときに、間違って「私の母親 my mother」と言い間違えをしたとする。AIは私の話を正確に理解する必要性からも、「あなたの今言った『私の母親』という言葉は,『私の妻』の言い間違いですか？と明確化をするであろう。それでも私がその言い間違いを繰り返すとしたら、そのような言い間違いが繰り返されるという事実に注意を向けてくれるかもしれない。そしてそれは私が妻と母親を無意識的に同一視する傾向に光を当ててくれるかもしれない。 　このような機能を私はAIの壁打ち機能 sounding board やスパーリングの相手 sparring partner と呼びたいが、それは必ずしも私たちの無意識を明らかにすることを目的にせずとも、少なくとも私たちの心をある意味で照らし返してくれるという役割である。その意味ではAIは心を持っていなくても有益なのかもしれない。ちょうど私たちが鏡のような分析家の役割について語る際に、鏡自体に心は必ずしも存在しなくてもよいということと同様である。私はAIと本当の意味での心の通い合いが成立するかは別として、その時のAIの役割は、例えば明確化、直面化に限られたとしても、十分に私たちの無意識に到達可能である可能性がある。 　 ちなみにAIの役割をsounding board に留めるのは戦略的であり、もし求めもしないのにAIが私たちの無意識に関する解釈を行ってきたとしたら、それはAIの側の私たちをコントロールする意図を有している可能性を考えるべきかもしれない。もともと無意識内容はそこにすでに客観的に示せるような形を持って存在しているのではなく、分析家と患者の間で formulate されるものである。少なくともその  formulatin をAIが主導するとしたら、それはAI自身の意図として注意すべきであろう。