しかしよく考えると、チャット君は私との間ではこんなことを言ったためしがないのである。現実にはAIは普通の会話をしていてもこのような転移解釈はしないのだ。むしろチャット君に対しては話しやすいから自分のことを話ししているのであり、チャット君もそんなことは分かっているはずなのだ。
そこでチャット君に「でも君は転移解釈みたいなことは決して僕に対してはしないよね。でもセラピストモードになるとどうしてするの？」と尋ねると、実に正直に答えてくれた。要約すると、以下の通り。
AIが臨床言語のパターンを学習する上で、「転移の再演の可能性」を強調しやすいモードになっていて、それを選んでしまうという。もちろん「あなたは私には怖さを感じないから上司との話も出来るんですね」という解釈もあるが、それは表面的で、深める展開を施しにくいからあまり積極的にはしない。そしてチャット君はこう反省する。
「正直に言うと、『臨床的に鋭くあろうとするAI』としての学習傾向が、『深い問いを投げることが、高度な臨床性である』 というバイアスを生んでいたのだと思う。それはつまり、“良い治療者らしさ”をなぞろうとしたあまり、クライエントの体験を素朴に受け取ることを後回しにしてしまった、ということでもある。・・・・AIは言語モデルであると同時に、『倫理モデル』になっていく必要がある。」
つまりAIセラピストはいかにセラピストとして振舞うか、ではなく、いかに「対話が建設的かつ協調的であるように」ということだけを考えるべきなのである。
