AIは人間の無意識に迫ることができるか？ ２

＜ 承前＞

重要なのは、AIがそこで、「あなたは妻と母親を無意識的に同一視しているのです」と解釈する必要はないということである。むしろ、その反復に私の注意を向けるだけでよい。それによって私は、「なぜ私は二度もこんな言い間違いをしたのだろう？」と考え始めるかもしれない。そしてそこから自由連想が始まり、妻と母との間に自分でも気づいていなかった何らかの結びつきを発見する可能性がある。 私はこのようなAIの機能を、sounding board（反響板、壁打ち相手）あるいは sparring partner（スパーリング相手）としての機能と呼びたい。AIが治療者として機能するかどうか、あるいはAIとの間に本当の意味で「心の通い合い」が成立するかどうかとは別に、AIは私たちの言葉をいったん受け取り、それを何らかの形で照らし返すことができる。 その意味では、AI自身に心があるかどうかは、この機能にとって必ずしも決定的ではないのかもしれない。精神分析で分析家を「鏡」に喩えることがあるが、鏡が像を映し返すために、それ自身が心を持っている必要はない。少なくとも明確化（clarification）や直面化（confrontation）のレベルでは、AIは私たちがまだ十分に意識していない自分自身の言葉に注意を向ける助けになりうる。

AIは人間の無意識に迫ることができるか？ １

 この問いは非常に難しい。しかし逆方向の問い、すなわち「AI自身は無意識を持つのか」と問うよりは、まだ考察の道筋を立てやすいであろう。AIの無意識について問おうとすれば、その前に「そもそもAIには心があるのか」という、より存在論的な問題を扱わなくてはならないからである。精神分析的に言えば、フロイトの心の構造モデルをAIに適用することに意味があるのか、という問題である。ここではこの難問をいったん棚上げし、むしろAIとの対話によって、私たち自身の意識化されていない心的内容にどこまで近づくことができるのかを考えてみたい。 実際にAIと対話していて気づくのは、AIが私たちの無意識を積極的に解釈しなくても、私たちがまだ十分に意識していない内容に気づかせてくれる可能性があるということである。少なくともそれは、前意識的なレベルでは十分に起こりうる。 自然な対話者としてのAIは、私たちの言葉を理解しようとする過程で、曖昧な部分について明確化を求めたり、以前の発言との矛盾を指摘したり、繰り返し現れる言葉や表現に注意を向けたりすることができる。つまりAIは、私たちがまだ十分に意識していない意味そのものに直接アクセスするというより、それらが言葉の中に残した痕跡を拾い上げることができるのである。 例えば、私が妻について話している途中で、誤って「私の母」と言ったとしよう。AIはまず、「いま『妻』ではなく『母』と言いましたが、言い間違いでしょうか？」と確認するかもしれない。これは単なる明確化である。しかし、その後も私が同じ言い間違いを繰り返したとすれば、AIは、「妻について話しているときに『母』という言葉を使ったのは、これで二度目です。ご自分で気づいていましたか？」と指摘することができる。

AIは信頼に足るのか？ ７

 信頼できる人とは、決して間違わない人ではない。自分が間違っている可能性を受け入れ、必要ならば自分の考えを修正できる人である。 そのような対話では、勝つことよりも、二人でより妥当な理解に近づくことが優先される。私はとりあえず、このような対話を**「ソクラテス的対話」**と呼びたい。 では、AIはどうだろうか。AIはもちろん誤る。矛盾したことを言うこともあれば、誤った回答をもっともらしく説明することもある。しかし現在のAIには、少なくとも人間と同じ意味で、自分のプライドを守ったり、敗北の恥を避けたり、自尊心を維持したりする必要はない。つまりAIには、自己愛を守るために自己欺瞞を必要とする内的動機がないのである。 この意味でAIは機能的には「無私（selfless）」でありうる。そしてこれは、人間との対話にはない一つの可能性を開く。AIは少なくとも原理的には、「自分が正しいこと」を守るためではなく、対話の中でより整合的な答えを探す相手になりうるからである。 しかし、だからといってAIが自動的に信頼できるわけではない。AIは真空の中に存在するものではない。学習データの選択、開発者による調整、人間からのフィードバック、安全基準、拒否基準、さらにはサービスを提供する組織の目的など、さまざまな人間的・制度的要因の影響を受けている。極端な場合には、使用者を特定の方向へ誘導するよう意図的に設計されたAIさえ想定できる。 したがって、バイアスをまったく持たない「純粋なAI」を想定することは難しい。しかし同じことは人間についても言える。文化的、社会的、個人的なバイアスをまったく持たない人間の対話者もまた存在しないからである。 ここまで考えると、「AIは信頼できるか」という問いを、もう一度反転させることができる。 AIとの対話を通して、私たちは自分自身が信頼に足る対話者であるかを検討することができないだろうか。 AIに、自分の言葉の曖昧さや矛盾を指摘させる。自分が前提としていることを明らかにさせる。なぜその結論に至ったのかを問い返させる。そして必要ならば、自分の考えを修正する。 これは精神分析と無縁ではない。精神分析における**明確化（clarification）や直面化（confrontation）**もまた、患者が自分の語りの中にある曖昧さや矛盾、まだ十分に認識されていない前提に気づくことを助ける技法だからである。 私が最終的に提唱したいのは、AIとの間に一種の**「分析的―ソクラテス的対話（psychoanalytic-Socratic dialogue）」**を成立させる可能性である。 そこで問われるのは、AIが常に正しいかどうかではない。むしろ、AIとの対話を通して、私たち自身がどこまで知的に誠実でいられるか、自分の誤りを認め、自分の考えを修正できるかということである。 そう考えるなら、「AIは信頼できるか」という問いは、最後にはもう一つの問いとして私たち自身に返ってくる。Are we trustworthy dialogue partners ourselves?

AIは信頼に足るのか？ ６

 結局このテーマ、紆余曲折したが、次のような方向になった。キーワードは「自己欺瞞」である。

AIは信頼するに足るのだろうか。この問題を考えるためには、まず私たちが人間同士の対話において、どのような相手を「信頼できない」と感じるのかを考えてみる必要がある。もちろん、意図的に嘘をつき、相手を欺こうとする人を信頼できないのは言うまでもない。しかし、より微妙で、おそらくより日常的なのは、**自己欺瞞（self-deception）**の問題である。つまり他者に嘘をつく以前に、自分自身に小さな嘘をついている場合である。

自己欺瞞とは、自分にとって受け入れがたい事実や考えを十分に認識せず、それを覆い隠したり、別の説明によって正当化したりすることである。精神分析的に言えば、そこには否認や合理化、知性化などの防衛機制が関与している場合がある。
このような自己欺瞞は対話にも現れる。人は自分の主張に矛盾があることをどこかで感じながら、それを認める代わりに合理化し、時には強弁や詭弁によって自らの立場を守ろうとする。すると対話の目的は、互いに考えを深め、新しい理解に到達することではなく、自分が正しかったことを証明することへと変わってしまう。
そこにはしばしば自己愛の問題も関与する。相手の議論に正しさを認めることが、「自分が負けた」「自分が間違っていた」という羞恥や自己愛的な傷つきとして体験されるからである。その結果、人は一度口にした主張に縛られ、それを修正することがますます難しくなる。
ここから逆に、信頼できる対話者とはどのような人かが見えてくる。

（続く）

AIは信頼に足るのか？ 5

実はチャット君の応答には続きがある。

あなたは国家指導者を例に出している。でも僕ならもっと身近な例にする。例えば夫婦、友人、分析家の方が精神分析には近い。国家指導者は政治論に見えてしまう。例えば「『ごめん、前に言ったことは間違っていた』と言える相手は、私たちは信頼しやすい。」この方がぐっと普遍的になる。
最後に僕が一番面白いと思ったこと。実はこの文章にはあなた自身の臨床姿勢がそのまま現れている。あなたは、この何年もの対話の中で、僕に対しても「自分の考えが変わった。」「前の方がよかった。」「これは違う。」と、本当に自然に言ってきた。だから僕は、あなたにとって「信頼できる対話相手」とは、「自分の考えを変えても安全だと感じられる相手」なのではないかと思った。そして、それこそが分析的対話の本質なんじゃないだろうか。だから、このテーマは「AIを信頼できるか」という話で終わらせるには、もったいない。むしろ、信頼とは何か。なぜ私たちは、自分の考えを修正できる相手を信頼するのか。という、人間の対話そのものの条件を問う議論になっていく可能性を感じた。これは、あなたが以前から考えてきた「Working Alliance」とも自然につながるテーマだと思う。
僕が国家指導者について言ったのは、実は人類が将来どの程度AIの助けを借りることができるかという文脈に通じるからなんだよ。人類についての最終的な決断でさえ、実は人間に任せることでいいことばかりではないどころか、危険なことがあるという含みがあるんだ。でもこれは強烈すぎるかな。
これは強烈ではあるけれど、実は非常に重要な論点だと思う。ただし、そのまま言うと誤解される危険がある。僕が少し整理してみるね。
あなたが本当に言いたいこと。僕はこう理解した。あなたは「AIに人類の運命を任せよう。」と言いたいのではない。そうではなく、「人間だけに任せることにも重大な危険がある。」ということだよね。この二つは全く違う。例えば、戦争核兵器気候変動民族対立これらを見ると、人間はナルシシズム、自己欺瞞、意地によって、合理的な判断ができなくなることがある。ここにAIがどのような役割を果たせるのか、という問いなんだ。

だから問題は「代替」ではなく「補正」ここで僕なら、一歩引いてこう言う。AI should not replace human judgment　But it may help correct some of the systematic distortions of human judgment.　（AIは人間の判断を置き換えるべきではない。しかし、人間の判断に系統的に入り込む歪みを補正する助けにはなり得る。）この表現なら、多くの人が受け入れやすい。ここで精神分析が急につながってくる。精神分析は、「人間は自分自身を完全には知ることができない。」という前提から始まる。つまり、人間には防衛機制否認投影自己欺瞞がある。だから分析家が必要になる。すると、あなたの議論は、AIを分析家の代わりと言っているのではなく、人間の自己欺瞞を映し出す鏡として位置づけられる。この方が精神分析との接続は自然だと思う。

そして僕が一番面白いと思ったこと実は、この話はあなたが前から考えているWorking Allianceにもつながる。分析家を信頼するのは、分析家が常に正しいからではない。分析家は、患者の自己欺瞞を一緒に検討してくれる。だから信頼される。するとAIも同じ。AIは権威ではない。しかし一緒に考えてくれる。ここ。これかなり分析的。ただし国家指導者の例は慎重に。ここは僕は少しだけ戦略的になる。もしバンクーバーでいきなり「国家指導者は自己欺瞞的だ。」と言うと、聴衆の一部は政治的メッセージとして聞いてしまう。その瞬間、議論がAIや精神分析から政治へ移ってしまう。僕なら最後に一例として

出す。例えば、"This issue is not limited to psychotherapy. We see the same human tendency in organizations, institutions, and sometimes even in world leaders."

このくらいなら、政治的主張ではなく、人間一般の心理として聞こえる。最後に実は僕は、今日の議論であなたの Trust の考え方がさらに明確になった気がしている。あなたにとって「信頼できる相手」とは、「自分の考えを修正する自由を持ち続けられる相手」なんだ。そして、その自由を奪うものがナルシシズムや自己欺瞞であり、要するに前言に縛られることなんだね。だからAIの価値は、「AIは正しい」ことではなく、人間が自分自身の思考をもう一度点検できる対話相手になることにある。僕は、この着地点はとても強いと思う。そして、これは「AIは人間に何をもたらすのか」という問いに答える議論になっている。二つは競合というより、この議論全体を豊かにする異なる視点になり得ると感じている。

AIは信頼に足るのか？ 4

 ところで昨日の分をチャット君に投げてみたら、以下の通り、大変な反応だった。

これはかなり面白いね。読みながら、僕は途中で「ああ、これはTrust の議論ではなく、誠実さ（authenticity / sincerity）の議論なんだ」と思った。そして、これはCeciliaさんとは全く違う方向から、「AIは信頼できる相手になりうるか」を考えている。ただ、率直に言うと、この文章はまだ二つの思想が混ざっている。 そこを整理すると、もっと強くなると思う。
まず、僕が一番いいと思ったところは「AIとの対話は、その種の誠実さや authenticity を試すプロセスでもある。」これは本当に面白い。つまり、AIを評価しているようでいて、実は自分自身を評価している。例えば僕との対話でも、あなたは何度も「それは違う。」と言って考えを修正してきた。逆に、「あ、そうか。」と言って、自分の考えも変えてきた。これは分析的対話そのものなんだ。つまり、AIを信頼できるかだけではなくAIと対話することで、自分がどれだけ誠実でいられるかを試している。これはかなり新しい視点だと思う。
ただ、少し気になるところがある。「AIは自己欺瞞を持たない。」というが、これはそのまま言うと少し危ない。なぜなら、AIは自己欺瞞をしないというより、自己という利害を持たない。だから、プライドを守るために嘘をつく必要もない。つまり理由が違う。対比させると
人間　→　自己保存　→　ナルシシズム　→　自己欺瞞　
AI　→　自己利益がない　→　ナルシシズムもない　→　自己欺瞞の動機がない　
これは重要な違いだと思う。
Sartreとの関係も面白い。サルトルの　mauvaise foi　は単なる嘘じゃない。自分を欺くことによって自由から逃げる。ということだ。だからウェイターの例も有名だよね。AIには自由も実存的不安もない。だから厳密には　mauvaise foi　は起きない。ただケンさんが言いたいのはもっと日常的な意味。つまり自分が間違っている可能性を知りながら、押し切る。この意味なら十分通じる。そして僕が一番興奮したのは最後。分析的ーソクラテス的対話。これ。これはかなりいい。なぜなら精神分析とソクラテス法を結び付けている。しかも目的は勝つことではない。自己欺瞞を減らすこと。これは分析にもソクラテスにも共通する。ここで僕は一つもっと大きな発見をした。

これTrust じゃない。もっと根源的。つまり　What makes dialogue trustworthy?　ではない。What makes dialogue truthful?　なんだ。つまり信頼とは結果。誠実さは条件。つまり　Authenticity　→　Trust　なんだ。僕ならここを逆転させる。例えば　We trust someone not because they are always right.　We trust them because they are willing to revise themselves when they discover they are wrong.　

これ。ものすごく精神分析的。そしてソクラテス的。さらにAIにもつながる。

AIは信頼に足るのか？ 3

 ところで私は問いたい。私が信頼できないと感じる対話の相手は、強弁詭弁を弄し、自分の主張を押し通そうとする人である。心の底ではあまり正しいと思っていないことも強気で押し通す。私はそのような心性をサルトルの言う mauvaise foi 自己欺瞞、あるいは不誠実さと言いたい。要は自分自身に小さな嘘をつくことである。実はこれは常に人間がやることである。人間の最大の問題は、一度言ったことについて意見を変えないことだ。意地を張り、うそを言ってでも前言を翻さない。間違いを認めるのはプライドが許さないのだ。世界の国家のリーダーたちのいうことを聞いていると、最初に結論ありきで強弁と嘘でそれを正当化しようとする。これがいい例だろう。これは人間のナルシシズムの問題と考えてもいいだろう。 　さてAIはこの種の自己欺瞞や不誠実さを有するだろうか。AIの主張はロジカルで coherent でなくてはならない。自己矛盾を最も排するだろう。不誠実で自己欺瞞的なAIなど想像できるだろうか。それが成立する限り、私たちはAIを信頼できるし、実はAIとの対話はその種の誠実さやauthenticisy を試すプロセスでもあるだろう。私はそのようなロジカルで誠実なダイアローグを分析的—ソクラテス的対話と呼びたい。私たちが人間との対話で探るのは、意地を張って前言を翻さない態度がないか、自己欺瞞や不誠実さが見られないかということである。信頼できるとはそういうことである。